Проблема: Галлюцинации как «шум» в процессе очистки
Мультимодальные диффузионные языковые модели (MDLM) демонстрируют выдающиеся результаты благодаря итеративному уточнению. Однако авторы исследования выявили критический дефект: неопределенность маски (mask uncertainty) в целом снижается, но периодически возникают локальные всплески энтропии. Именно эти «пиковые шаги» (entropy spikes) коррелируют с возникновением галлюцинаций — модель «теряется» в распределении вероятностей и выдает неверные токены.
Решение: StepRefine — гибрид дискретного и непрерывного
Предложенный метод StepRefine — это плагин-декодер, который динамически переключается между двумя режимами:
- Стандартная дискретная очистка: используется в стабильных фазах генерации.
- Континуальное уточнение (Latent Refinement): активируется при обнаружении пика энтропии. Вместо жесткой фиксации токена (discrete token commitment), модель использует взвешенные по вероятности эмбеддинги. Это сохраняет разнообразие гипотез рассуждения и позволяет контексту «подтянуть» семантику.
Специальный контроллер следит за стабильностью распределения, предотвращая бесконечные циклы уточнения и возвращая модель к стандартному режиму, когда неопределенность падает.
Результаты: Снижение ошибок без потери качества
Эксперименты показали, что StepRefine эффективно mitigates (снижает) галлюцинации в различных MDLM-архитектурах. Метод работает как надстройка, не требуя переобучения базовой модели, что делает его применимым для существующих решений.
| Компонент метода | Функция | Влияние на генерацию |
|---|---|---|
| Step-Aware Switch | Обнаружение пиков энтропии | Изолирует проблемные шаги, где модель «сбоит» |
| Probability-Weighted Embeddings | Замена жесткого токена | Сохраняет семантические альтернативы, снижая риск галлюцинации |
| Refinement Controller | Мониторинг стабильности | Оптимизирует вычисления, отключая уточнение при необходимости |
Почему это важно
Работа авторов (Zhongxing Xu, Zhonghua Wang и др.) меняет парадигму работы с MDLM. Вместо борьбы с моделью на этапе обучения, фокус смещается на интеллектуальное управление процессом декодирования. Это открывает путь к созданию более надежных мультимодальных систем, способных к сложному логическому выводу без генерации вымышленных фактов.
Источник: arXiv cs.CL ↗