Суть парадокса: больше агентов — дольше ждать
Исследователь Джулиан Брэдшоу проанализировал модель AI Futures (на которой базируются прогнозы AI 2027 и AI 2040) и обнаружил контринтуитивный эффект. Параметр λ (lambda) измеряет степень параллелизуемости задачи (коэффициент «мешания ногами»). В реальности он обычно находится между 0 и 1, так как добавление новых агентов дает убывающую отдачу.
При λ = 0.5 100 агентов работают так же эффективно, как 1 агент за 10 раз дольше. Однако современные модели от OpenAI и Anthropic, обученные лучше взаимодействовать, предполагают значение λ ≈ 0.65. Логично предположить, что это ускорит прогресс. Но модель AI Futures показывает обратное: увеличение λ с 0.50 до 0.65 увеличивает сроки достижения Автоматизированного Кодера (AC) и Искусственного Суперинтеллекта (ASI).
Почему это происходит: скрытые механизмы
Первичный эффект ускорения от параллелизма подавляется вторичными эффектами калибровки других параметров. Модель жестко связывает λ с параметром Serial Coding Uplift (по умолчанию 2x к августу 2026 года) и Infinite Coding Labor Asymptote (по умолчанию 15x). Изменение λ заставляет модель пересчитывать эти базовые метрики, что в итоге «растягивает» временные горизонты. Это демонстрирует сложность прогнозирования: интуитивные предположения о «территории» часто не совпадают с логикой «карты» модели.
Зависимость от якорей оценки AC
Эффект зависит от того, как мы определяем появление Автоматизированного Кодера (AC). В модели есть три якоря, и реакция на λ у них разная:
| Якорь оценки AC | Критерий достижения | Реакция на рост λ (0.5 → 0.65) |
|---|---|---|
| Coding Uplift (по умолчанию) | 100% задач по коду выполняет ИИ | Сроки увеличиваются (парадоксальный эффект) |
| Time Horizon | Точность фронтенд-моделей на задачах (1 год для Daniel, 125 лет для Eli/Brendan) | Сроки уменьшаются (интуитивно верно) |
| Revenue | Доход ведущей лаборатории ($1T–$7T в год) | Сроки уменьшаются (интуитивно верно) |
Парадокс наиболее ярко проявляется именно при использовании якоря Coding Uplift, так как он напрямую зависит от оценки выгоды параллельных агентов. Для якорей Time Horizon и Revenue рост λ сокращает время до AC, но все равно увеличивает время до ASI.
Масштаб влияния
Изменение λ имеет экспоненциальный эффект на эффективные вычисления. Переход от λ=0.3 к λ=0.8 может увеличить эффективные вычисления почти в 100 раз. Даже небольшой сдвиг с 0.50 до 0.65 дает рост эффективных вычислений примерно в 4 раза при 10 000 агентов. Тем не менее, в рамках текущей архитектуры AI Futures эти вычислительные преимущества нивелируются пересчетом базовых параметров продуктивности, что приводит к более пессимистичным прогнозам сроков.
Вывод для исследователей
Модель AI Futures открыта и содержит около 40 настраиваемых параметров, что дает пространство для $10^{104}$ комбинаций. Данный кейс служит важным уроком: при моделировании будущего ИИ необходимо учитывать не только прямые эффекты (параллелизм ускоряет работу), но и системные связи, где улучшение одного показателя может триггерить пересчет других, ведущих к замедлению общего прогноза.
Источник: LessWrong ↗