Проблема авторегрессионного декодирования
Современные системы глубокого анализа (Deep Research) работают итеративно: планируют, собирают доказательства, синтезируют и пересматривают данные. Однако почти все продакшн-решения построены на авторегрессионных (AR) языковых моделях, которые генерируют текст слева направо. Это создает узкое место: полная задержка (end-to-end latency) делает интерактивное использование таких систем неудобным, так как пользователю приходится ждать завершения всего процесса генерации.
Решение: DiffResearch на базе dLLM
Команда авторов (Alan-Barsag Gazzaev, Alexey Gavrilov, Mikhail Mozikov, Sergey Muravyov) представила DiffResearch — открытую многоагентную систему, где в основе каждого этапа стоит диффузионная языковая модель (dLLM). В отличие от AR-моделей, dLLM генерируют текст параллельно, что кардинально меняет архитектуру задержки. Исследование проводилось методом «контролируемого обмена»: агенты, код извлечения данных, промпты и оценка оставались неизменными, менялся только бэкбонд.
Ключевые метрики и бенчмарки
Тестирование проводилось на 100 задачах из набора Deep Research Bench. Результаты показали существенное ускорение за счет сокращения времени на планирование и написание длинных текстов. Была также представлена опция dFast — режим декомпозиции, который извлекает подзапросы из промежуточных состояний шумоподавления до завершения генерации.
| Метрика / Конфигурация | Результат | Примечание |
|---|---|---|
| Общее ускорение (Diffusion vs AR) | ~6x быстрее | За счет сокращения этапов планирования и письма |
| Ускорение декомпозиции (dFast) | 1.99x (медиана) | Без потери качества отчета |
| Качество (RACE rubric) | Лучший балл | Конфигурация dFast показала наивысший результат среди трех тестовых вариантов |
Значение для индустрии
В публичном системном лидерборде экземпляр DiffResearch, построенный на более мощной диффузионной модели, занял позицию выше нескольких коммерческих систем. Это доказывает, что диффузионный подход может конкурировать с лидерами рынка по качеству, значительно выигрывая в скорости. Фреймворк выпущен под лицензией Apache-2.0, что открывает возможности для внедрения в open-source экосистему. Работа принята к публикации в EMNLP 2026 Industry Track.
Источник: arXiv cs.AI ↗