Суть проблемы: аналогия с временем
Часто увеличение числа токенов (inference compute) для ИИ приравнивают к увеличению времени на задачу для человека. Однако новые данные ставят эту аналогию под сомнение. Вопрос в том, насколько эффективно ИИ конвертирует дополнительные ресурсы в качество решения. Если для 10-кратного улучшения человеку нужно 10x времени, то ИИ может потребоваться 100x или даже 10 000x токенов.
Данные UK AISI: сублинейное масштабирование
Отчет UK AISI (октябрь 2026) использует метрику «80% time horizon» — время, за которое ИИ успешно решает 80% задач. На логарифмическом графике видно, что все модели демонстрируют сублинейное масштабирование. Зависимость описывается формулой $H = c \cdot T^\alpha$, где $H$ — время горизонта, $T$ — токены, а $eta$ — коэффициент масштабирования.
Ключевой вывод: для всех протестированных моделей $eta < 1$. Это означает, что удвоение токенов дает менее чем двукратный прирост в сложности решаемых задач. Люди же, согласно данным METR, демонстрируют более высокую эффективность использования времени.
Динамика улучшения моделей
Несмотря на текущее отставание, наблюдается четкий тренд на улучшение эффективности. В таблице ниже приведены значения коэффициента $eta$ и требуемый множитель токенов для 10-кратного улучшения результата для моделей от июля до мая 2026 года.
| Модель (примерный период) | Коэффициент масштабирования ($\beta$) | Множитель токенов для 10x улучшения |
|---|---|---|
| Ранние модели (Июль 2026) | ~0.05 - 0.1 | 10 000x |
| Средние модели (Январь 2026) | ~0.3 - 0.4 | ~100x - 200x |
| Последние модели (Май 2026) | ~0.7 - 0.8 | ~20x |
За менее чем год разрыв сократился с 10 000x до 20x. Это говорит о том, что архитектура и обучение становятся эффективнее, но паритет с человеческим масштабированием ($eta = 1$) пока не достигнут.
Почему это важно
Если $eta$ останется ниже 1, это ставит под угрозу сценарии «взрыва интеллекта» (intelligence explosion), где ИИ способен быстро улучшать сам себя. Для достижения человеческого уровня производительности через самоусовершенствование потребуется непропорционально огромные вычислительные ресурсы. Однако, если тренд продолжится и $eta$ достигнет 1 или превысит его, экономическая целесообразность автономного развития ИИ резко возрастет.
Ограничения данных
Анализ основан на задачах типа Capture-the-Flag (хакерские задачи). Данные охватывают очень длинные цепочки рассуждений, требующие многократной компиляции контекста, что может искажать реальные показатели эффективности в рамках стандартного контекстного окна. Также неясно, достигли ли кривые плато или продолжают расти.
Источник: LessWrong ↗