Парадокс масштабируемости агентов
Эволюция агентов (Agentic Harness Evolution) предполагает оптимизацию инструкций, инструментов и логики управления на основе опыта выполнения задач. Интуитивно кажется, что чем больше задач используется для обучения, тем лучше результат. Однако предварительные исследования выявили парадоксальную проблему: при расширении пула задач производительность существующих методов деградирует. Причина кроется в неоптимальном выборе «доказательств» (эвристик) для оптимизации — разные комбинации опыта приводят к радикально разным результатам.
Решение: Successive Scale Racing (SSR)
Авторы предлагают фреймворк SSR, который адаптивно ищет оптимальные комбинации доказательств в каждом раунде эволюции. Метод строит разнообразные варианты на основе качества и покрытия задач, а затем эффективно «гоняет» (races) кандидаты с ограниченным вычислительным бюджетом. Это позволяет отбраковывать слабые решения до их полной валидации.
Ключевые метрики и результаты
Эксперименты проводились на трех различных бенчмарках в шести конфигурациях. SSR показал state-of-the-art результаты во всех сценариях. Ключевое преимущество метода — стабильный рост точности при увеличении сложности:
| Параметр | SSR (Successive Scale Racing) | Базовые методы (Baselines) |
|---|---|---|
| Пул задач: 40 | Pass Rate: 64.3% | Ниже или сопоставимо |
| Пул задач: 200 | Pass Rate: 68.3% (Рост) | Деградация производительности |
| Экономия ресурсов | Снижение валидаций на 60% | Полная валидация кандидатов |
Значение для индустрии
Метод SSR решает критическую проблему масштабирования автономных AI-агентов. Способность системы улучшаться по мере добавления новых, более сложных задач, при одновременном сокращении вычислительных затрат на валидацию, делает SSR перспективным инструментом для создания надежных и экономичных агентов в реальных условиях.
Источник: arXiv cs.AI ↗
