Проблема: «Проклятие размерности» при управлении
Дискретные диффузионные модели генерируют последовательности (текст, код, биологические последовательности), параллельно восстанавливая токены. Главная сложность заключается в управлении процессом: ценность одного нераспознанного токена зависит от того, с какими другими токенами он образует высококачественную последовательность. Традиционные методы требуют перебора всех возможных завершений последовательности, что приводит к экспоненциальному росту вычислительной сложности.
Решение: Разделение зависимости и цели
Авторы предлагают метод COFFEE (Compiled Objectives for Future-Aware Guidance in Discrete Diffusion). Это плагин-фреймворк, который не требует переобучения базовой модели. Механизм работает за счет разделения зависимости последовательности от целевой функции:
- Target-free carrier: на каждом шаге диффузии поглощает маргинальные распределения токенов, предсказанные денуайзером, для построения совместной модели.
- Compiled finite-state model: записывает, как комбинации токенов влияют на глобальные предпочтения (целевую функцию).
Сопоставление состояний этих двух компонентов позволяет переносить глобальные предпочтения на нераспознанные позиции и выбирать оптимальные токены без полного перебора.
Ключевые возможности и метрики
COFFEE поддерживает как жесткие ограничения (hard constraints), так и мягкие обучаемые цели (soft objectives). Метод демонстрирует эффективность в задачах, где важно не только качество генерации, но и строгое соответствие правилам.
| Характеристика | Описание |
|---|---|
| Тип модели | Discrete Diffusion (дискретная диффузия) |
| Основной вклад | Инференс-ориентированное управление без дообучения |
| Масштабируемость | Избегает экспоненциального роста сложности перебора |
| Применимость | Символьные задачи, языковые модели, биология |
| Типы ограничений | Жесткие (hard) и мягкие (soft) цели |
Почему это важно
COFFEE открывает путь к интеграции нейросимволических методов в генеративные модели. Ранее глобальные оптимизационные задачи были доступны только на этапе оценки. Теперь они могут применяться непосредственно во время генерации, что критически важно для задач, требующих строгого соблюдения структуры (например, генерация валидного кода или химических формул), сохраняя при этом качество и разнообразие выходных данных.
Источник: arXiv cs.AI ↗