Проблема «Эпистемического Сибил»
В многоагентных системах (Multi-Agent Systems) распространена практика создания множества копий агентов для синтеза отчетов. Однако исследователь Марк Бары (Marc Bara) в статье Epistemic Sybil Resistance (arXiv:2609.01873) формализовал критический дефект этого подхода. Он назвал его эпистемическим Сибил (Epistemic Sybil) — ситуацией, когда множество отчетов от разных агентов фактически происходят из одного и того же источника доказательств, создавая иллюзию независимости.
Ключевая проблема заключается в том, что идентичные отчеты могут иметь разную степень достоверности в зависимости от их скрытого происхождения. Простая агрегация отчетов без учета «родословной» данных не может отличить реальное подтверждение фактов от простого копирования ошибок.
Результаты экспериментов: 20 000 вызовов LLM
Авторы провели контролируемый эксперимент с использованием более 20 000 вызовов LLM-агентов на синтетических документах. Целью было измерение влияния количества агентов и количества независимых источников на калибровку вероятностных выводов (posterior coverage).
| Условие эксперимента | Параметр | Результат (Posterior Coverage) | Вывод |
|---|---|---|---|
| Фиксированный источник (1) | Агенты: 1 → 32 | Падение с 0.940 до 0.263 | Размножение агентов без новых данных разрушает достоверность. |
| Фиксированное число агентов | Источники: 1 → 16 | Покрытие восстанавливается до статистически значимого уровня | Увеличение независимых источников эффективно исправляет ошибку. |
| Корреляция ошибок | Коэффициент (gamma_cal) | 0.719 | Агенты на одной базе модели генерируют схожие ошибки извлечения. |
Почему дедупликация текстов не работает
Один из самых важных инсайтов исследования касается попыток решить проблему через анализ сходства текстов. Многие системы пытаются удалять дубликаты, сравнивая репорты агентов. Эксперимент показал, что это неэффективно:
- Изменение сходства представлений (representation similarity) меняет количество кластеров отчетов в среднем на 1.425 (95% CI [1.363, 1.485]).
- Четырехкратное изменение истинного происхождения (evidential ancestry) влияет на этот показатель лишь на 0.040 ([-0.045, 0.120]).
Это означает, что текстовое сходство отчетов почти не коррелирует с их фактическим происхождением. Агенты могут писать по-разному, но опираться на один и тот же «корень» данных, или наоборот — писать одинаково, но из разных источников.
Решение: Агрегация с учетом зависимости
Исследование предлагает отказаться от простого усреднения мнений агентов. Вместо этого необходимо использовать агрегаторы, которые учитывают эпистемическую зависимость (epistemic dependence). Модель с общим корнем (Gaussian shared-root model) показывает, что повторное извлечение информации из одного источника имеет предел полезности, а коррелированные ошибки извлечения снижают этот предел еще сильнее.
Для восстановления калибровки выводов необходимо внедрять механизмы, которые отслеживают не количество агентов или схожесть их текстов, а именно источник доказательств и степень их независимости.
Источник: arXiv cs.AI ↗