Суть проблемы: точность против фактологичности
В индустрии AI принято считать, что использование мультиагентных систем (Multi-Agent Systems, MAS) автоматически делает LLM более надежными. Однако новое исследование авторов Won Seok Jang, Harry Bhaskar Joshi и Hong Yu показывает опасный разрыв между точностью ответа (task performance) и фактологической достоверностью рассуждений (factuality/faithfulness). Врачи принимают решения на основе логики, а не только финального вывода, поэтому галлюцинации в цепочке рассуждений критичны.
Методология и цифры
Команда протестировала 4 модели LLM в 3 клинических задачах, сравнивая базовый одиночный LLM с тремя топологиями мультиагентного взаимодействия. Всего проведено 36 сравнений (model-system-task). Оценка проводилась по двум осям: метрика задачи и уровень галлюцинаций в сгенерированном rationale (обосновании).
Ключевые результаты по изменению уровня галлюцинаций при переходе к мультиагентности:
| Направление изменения галлюцинаций | Количество случаев | Примечание |
|---|---|---|
| Снижение (улучшение) | 4 | В этих случаях коллаборация помогла |
| Увеличение (ухудшение) | 8 | Система стала генерировать больше ошибок |
| Нет значимых изменений | 24 | Статистически незначимая разница |
Главный вывод: модель важнее топологии
Исследование доказывает, что мультиагентность не «создает» новые знания, а лишь перераспределяет то, что модель уже умеет. Ни одна из протестированных топологий не показала стабильного преимущества перед другими. Фактором, определяющим уровень галлюцинаций, является конкретная модель (weights/architecture), а не количество агентов или схема их взаимодействия.
Эксперимент с саморефлексией
Дополнительный тест с самокоррекцией (self-correction) выявил полярность моделей:
- Llama-3.2-3B-Instruct: Единственная модель, которая не снизила галлюцинации даже при наличии флагов ошибок. Более того, в мультиагентном режиме она показала наибольшее увеличение галлюцинаций.
- Остальные модели: Снизили уровень галлюцинаций при саморефлексии. Та модель, для которой коллаборация изначально снизила галлюцинации, получила наибольший прирост качества при исправлении ошибок.
Вывод для индустрии: Слепое внедрение мультиагентных архитектур в клиническую практику без глубокого аудита внутренней логики (rationale) может привести к усугублению галлюцинаций, особенно при использовании определенных архитектур (как Llama-3.2-3B).
Источник: arXiv cs.AI ↗