От одиночных агентов к специализированным командам
Традиционные методы автоматизации научных исследований часто застревают в локальных оптимумах, так как один агент ограничен своим опытом. Авторы работы (Yujian Liu, Li An, Zelin He и др.) предложили принципиально иной подход: создание команды персистентных AI-исследователей, каждый из которых обладает уникальной дисциплинарной специализацией. Ключевая идея — использование ортогонального исследования: агенты с разным бэкграундом предлагают непересекающиеся гипотезы, что позволяет находить нестандартные архитектурные решения.
Механика работы: память и адаптивное распределение
Система решает проблему ограниченного вычислительного бюджета через два механизма:
- Приватная история исследований: каждый агент хранит свои неудачи и успехи, что предотвращает повторение ошибок даже при общем доступе к данным.
- Адаптивное распределение: система динамически решает, кто из агентов получит ресурсы на следующий эксперимент, балансируя между исследованием новых идей (exploration) и углублением в перспективные направления (exploitation).
Результаты: победа над GDN2
Эксперименты проводились в задаче поиска оптимальных архитектур Linear Attention. Команда AI-агентов продемонстрировала превосходство над существующим методом GDN2 (Genetic Discovery of Neural Networks) на модели масштаба 1.3B параметров. Тестирование охватывало не только языковое моделирование, но и задачи commonsense reasoning, а также синтетический и реальный поиск (retrieval).
| Метрика / Задача | Результат AI-команды | Сравнение с GDN2 |
|---|---|---|
| Языковое моделирование (Language Modeling) | Высокая точность | Превосходство |
| Commonsense Reasoning | Улучшенные показатели | Превосходство |
| Синтетический и реальный поиск (Retrieval) | Эффективный поиск | Превосходство |
Почему это важно для индустрии
Контролируемые сравнения показали, что удаление любого компонента системы приводит к резкому падению эффективности. Отсутствие дисциплинарных различий заставляет команду застревать на ранних этапах, а отказ от приватной истории снижает прогресс даже при одинаковых общих данных. Это доказывает, что для автономного научного открытия критически важны не только мощь отдельных моделей, но и организационная структура взаимодействия агентов, их память и стратегия распределения ресурсов.
Источник: arXiv cs.CL ↗