Проблема: отсутствие предпочтений в данных
Мультиагентные системы (MAS) на базе больших языковых моделей (LLM) становятся мощным инструментом для решения сложных задач, где критически важна топология взаимодействия: кто участвует и как общается. Однако существующие методы генерации топологии опираются на корпус графов, которые уже решили задачу. Главная проблема — такой корпус не содержит информации о том, какой граф был «лучше» для конкретного запроса. Без этого сигнала модель при дообучении (SFT) просто копирует наиболее частые структуры, теряя адаптивность к специфике задачи.
Решение: PRISM и привилегированная информация
Авторы предлагают метод PRISM (PRIvileged Sibling-guided Multi-Agent Topology Design), который восстанавливает сигнал предпочтений из того же корпуса данных. Идея заключается в использовании «привилегированной информации»:
- Учитель (Teacher): читает через ветку с нулевой инициализацией (low-rank branch) граф-«брат» (sibling graph), который также решил запрос, но недоступен на этапе развертывания.
- Студент (Student): пытается воспроизвести решения учителя на траекториях, которые он сам генерирует.
Это позволяет модели учиться не просто копировать частые паттерны, а понимать, какие решения были оптимальными для конкретных условий, используя сравнение с успешными альтернативами.
Результаты: улучшение по всем базовым линиям
Метод PRISM был протестирован на шести разнообразных бенчмарках. Результаты показывают, что PRISM превосходит все существующие базовые методы проектирования топологии. Контрольные эксперименты с «учителем-близнецом» подтверждают, что именно использование привилегированной информации о запросе дает прирост качества, а не просто архитектурные особенности.
| Аспект | Описание |
|---|---|
| Метод | PRISM (PRIvileged Sibling-guided Multi-Agent Topology Design) |
| Ключевая инновация | Использование «братских» графов (sibling graphs) как учителя для восстановления предпочтений |
| Техническая реализация | Нулевая инициализация низкоранжевой ветки (zero-initialized low-rank branch) |
| Область тестирования | 6 разнообразных бенчмарков |
| Результат | Превосходство над всеми evaluated topology-design baselines |
Значение для индустрии
PRISM открывает путь к созданию более адаптивных мультиагентных систем. Вместо статических или усредненных структур взаимодействия, агенты смогут динамически выстраивать оптимальную топологию, обучаясь на сравнении с успешными сценариями, даже если явных меток качества для каждого сценария не существует. Код метода доступен для сообщества.
Источник: arXiv cs.CL ↗