Суть эксперимента: игра в названия и графы состояний
Исследователи Samer Saab Jr и Chaouki Abdallah изучили поведение популяций открытых языковых моделей (LLM) в диапазоне от 1.1B до 32B параметров. Вместо стандартного диалога они использовали протокол «игры в названия» (naming-game), где модели должны были согласовывать метки для объектов. Ключевая инновация — анализ не просто текстовых ответов, а распределения скоростей первого токена (first-token scores) для безопасных токенизатором меток. Это позволило построить графы сходства состояний и отделить поверхностное согласие от глубокого консенсуса в латентном пространстве.
Два пути: гомофилия против мостов
В ходе тестирования выявилось, что простое сохранение истории взаимодействий (retained partner-label evidence) необходимо, но недостаточно для достижения консенсуса. Поведение популяции радикально зависело от алгоритма маршрутизации взаимодействий:
- Гомофильная маршрутизация (homophilous threshold-similarity): Модели общались только с теми, чье состояние было максимально похоже на их собственное. Это приводило к удалению перекрестного воздействия и усилению фрагментации. В смешанной сетке из четырех моделей этот метод не обеспечил ни поведенческого, ни итогового консенсуса ни в одном из 189 запусков.
- Маршрутизация через мосты (bridge-seeking): Алгоритм целенаправленно соединял модели с разными состояниями. При наличии памяти (memory) этот подход часто восстанавливал фрагментированные связи и приводил к консенсусу.
Цифры и результаты
Сравнение эффективности различных стратегий маршрутизации в смешанной сетке (three-seed mixed four-model grid) демонстрирует разрыв в эффективности:
| Стратегия маршрутизации | Всего запусков | Достигнут консенсус | Результат |
|---|---|---|---|
| Гомофилия (пороговое сходство) | 189 | 0 | Полная фрагментация, нет консенсуса |
| Мосты (состояние/метка) | 18 (с памятью) | 14 | Восстановление поведенческого консенсуса в 77% случаев |
В однородных популяциях история взаимодействий сдвигает динамику к консенсусу. Яркий пример — Qwen2.5-32B: в 18 случаях с сохранением истории и смешанным взаимодействием модель достигла стабильного поведенческого и итогового консенсуса. Однако при включении гомофильной маршрутизации даже эта мощная модель не смогла достичь консенсуса ни в одном из 189 запусков.
Почему это важно для индустрии
Результаты ставят под сомнение подход, при котором граф взаимодействий в мультиагентных системах считается просто технической деталью. Исследование доказывает, что топология общения является управляемым параметром. Для разработчиков AI-агентов это означает, что для предотвращения раскола мнений (fragmentation) в коллективе ИИ-агентов необходимо внедрять алгоритмы, принудительно создающие «мосты» между разрозненными кластерами мнений, а не позволять агентам общаться только с «похожими» на себя сущностями.
Источник: arXiv cs.AI ↗