Команда исследователей во главе с Ха Минхом Хиеу (Ha Minh Hieu) представила метод Speculative Evolution (SpecEvo), который решает главную проблему LLM-генерации кода и научных гипотез — высокую стоимость вычислений. Традиционные подходы применяют мощные модели (frontier models) равномерно ко всем шагам, игнорируя уроки из неудачных попыток. SpecEvo меняет парадигму, разделяя задачи между дешевыми и дорогими моделями через механизм «спекуляции и консолидации».
Архитектура: как работает SpecEvo
Система использует координацию нескольких моделей разных уровней сложности:
- Speculators (Спекулянты): Легковесные модели, которые параллельно генерируют и уточняют кандидаты на решение задачи. Они берут на себя рутинную эксплорацию.
- Advisor (Советник): Модель, которая анализирует накопленные данные об успехах, провалах и «насыщенных» направлениях поиска, формируя постоянное руководство для следующих итераций.
- Navigator (Навигатор): Мощная модель-фронтенд, которая включается только на редких контрольных точках. Она оценивает популяцию решений и вмешивается стратегически: синтезирует новые подходы, проводит хирургическую правку или переформулирует задачу при застое.
Такой подход позволяет использовать дорогие вычисления только там, где они дают максимальный прирост качества, экономя ресурсы на массовых проверках.
Результаты: 176 задач и экономия ресурсов
Авторы протестировали SpecEvo на 176 задачах в четырех областях: научное открытие, алгоритмический поиск и другие. Система показала конкурентоспособность с моделями высшего класса, но с радикально меньшими затратами.
| Метрика | Результат SpecEvo | Сравнение / Примечание |
|---|---|---|
| Стоимость API | Снижение до 80% | По сравнению с базовыми моделями фронтенда |
| Эффективность оценки | До 1.5x выше | В задаче обнаружения математических уравнений |
| Качество решения | +3.8% | Превосходство над лучшим базовым набором CO-Bench |
Почему это важно
SpecEvo демонстрирует, что будущее эффективного AI-исследования лежит не в увеличении размера одной модели, а в траекторно-условной координации (trajectory-conditioned model coordination). Способность системы «запоминать» тупиковые ветки развития и делегировать рутину дешевым моделям делает автоматизированные научные открытия доступными для более широкого круга исследователей, не имеющих бюджетов на бесконечные запросы к GPT-4 или Claude Opus.
Источник: arXiv cs.AI ↗