Команда исследователей во главе с Чанчжи Лю (Changzhi Liu) и Юнпу Ма (Yunpu Ma) представила новую архитектуру самообучающихся агентов — Mendel Gödel Machine (MGM). В отличие от существующих решений, которые корректируют свой код на основе единичных неудачных попыток, MGM использует архив прошлых попыток для сравнительной эволюции. Это позволяет агенту не просто исправлять ошибки, а извлекать полезные паттерны из множества сценариев.
Три механизма мутации
Архитектура MGM базируется на принципах контролируемого наследования и включает три типа модификации исходного кода агента:
- Клонирование (Clonal Mutation): Базовый механизм, аналогичный существующим решениям, где агент изменяет себя на основе одной траектории провала.
- Мутация нормы реакции (Reaction-Norm Mutation): Агент редактирует свой код, анализируя траектории выполнения на нескольких задачах одновременно. Это позволяет выявлять универсальные паттерны поведения.
- Гибридизация кросс-линей (Cross-Lineage Hybridization): Агент использует траекторию успешного выполнения задачи другим агентом из другой «линии» (поколения или ветки развития) для улучшения собственного кода. Это аналог кросс-бракинга в биологии.
Теоретическое обоснование и результаты
Авторы доказали, что в рамках модели аддитивного ландшафта приспособленности (additive fitness landscape) новые стратегии обеспечивают более быструю и качественную сходимость по сравнению с базовыми моделями однопоточной траектории. Эксперименты проводились на двух ключевых бенчмарках:
| Бенчмарк | Что тестируется | Результат MGM |
|---|---|---|
| SWE-bench | Решение реальных задач по исправлению багов в Python-репозиториях | Последовательное улучшение производительности и эффективности |
| Polyglot | Мультимодальные задачи и обобщаемость моделей | Повышение способности к обобщению (generalizability) |
Исследование показывает, что использование сравнительных сигналов из архива попыток является критически важным шагом для создания по-настоящему автономных самооптимизирующихся систем. Код и проект доступны на странице авторов.
Источник: arXiv cs.AI ↗