Проблема «медленного обучения» и узкое место вычислений
Согласно анализу, современные LLM способны достичь «прозаического RSI» (Recursive Self-Improvement) в период 2028–2032 годов. Однако эти системы будут страдать от так называемого «медленного обучения». Скорость итераций улучшения модели (next-model building loops) измеряется неделями или месяцами, а не миллисекундами генерации токенов. Ключевым ограничением здесь выступает не человеческий фактор, а физическая необходимость огромных объемов вычислений (FLOPs) для каждого цикла обучения. Использование более мелких моделей не решает проблему, так как текущие фронтенд-модели находятся на грани достаточности для автоматизации этого процесса, а новые модели будут еще масштабнее.
Замедление роста вычислений к 2032 году
Критический момент наступает, когда способность LLM замыкать цикл самоусовершенствования совпадает с исчерпанием ресурсов для экспоненциального роста производства вычислительной мощности. Период бурного роста (2022–2027 гг.) сменится фазой замедления. К 2032 году темпы вывода новых мощностей сравняются с темпами вывода старых из эксплуатации. Ограничениями станут доступность EUV-машин, квалифицированных кадров и энергетических ресурсов. Без прорывных алгоритмических инноваций, которые «медленные» AGI не могут создать быстро, прогресс будет жестко привязан к темпам физического строительства дата-центров.
Индустриальный взрыв: Роботы строят роботов
Единственный путь к ускорению — это переход к полностью автоматизированному промышленному производству. AGI, появившиеся в 2028–2032 гг., сделают роботов экономически целесообразными для большинства задач в 2030–2034 годах. Это запустит процесс перестройки мировой промышленности. Аналогия с автомобильной индустрией показывает, что полная конверсия производственных мощностей под нужды ИИ займет 3–5 лет (до 2034–2039 гг.).
Таймлайн до Суперинтеллекта (ASI)
К концу 2030-х годов отрасль по производству роботов, управляемая самими роботами и AGI, достигнет масштабов человеческой промышленности. Если период удвоения производственных мощностей составит около 1 года, то за 10 лет (к 2044–2050 годам) вычислительная база увеличится в 1000 раз. Именно этот масштаб позволит сократить время итераций обучения до уровня, достаточного для быстрого изобретения прорывных алгоритмов и перехода к «программному сингулярности».
| Период | Ключевое событие | Характеристика прогресса |
|---|---|---|
| 2028–2032 | Достижение прозаического RSI | Появление AGI с «медленным обучением»; узкое место — вычисления |
| 2030–2034 | Рост полезности роботов | AGI делают роботов универсальными; начало перестройки промышленности |
| 2034–2039 | Индустриальная конверсия | Производство роботов достигает масштабов человеческой индустрии |
| 2044–2050 | Индустриальный взрыв (1000x) | Автономное удвоение мощностей каждые ~1 год; начало быстрого изобретательства |
Почему это важно
Этот сценарий ставит жесткую верхнюю границу для появления Суперинтеллекта (ASI). В отличие от сценариев мгновенного взлета, здесь прогресс сдерживается физикой и экономикой производства «железа». Однако к 2050 году, при наличии автономной индустрии, способной масштабировать вычисления в тысячи раз, вероятность быстрого перехода к стадии, где алгоритмические прорывы происходят за месяцы, становится крайне высокой.
Источник: LessWrong ↗