Три голоса из «открытых» лабораторий
В выпуске от 11 сентября 2026 года Dwarkesh Patel собрал трех ключевых фигур индустрии, работающих в компаниях с относительно открытой политикой: Берена Миллиджа (CTO Zyphra), Джона Шульмана (главный научный сотрудник Thinking Machines, сооснователь OpenAI) и Чарли О'Нилла (руководитель обучения моделей в Baseten). Их цель — оценить, насколько мы близки к моменту, когда ИИ сможет самостоятельно улучшать себя (RSI — Recursive Self-Improvement), и почему 2036 год может не стать эпохой суперинтеллекта.
Барьеры, которые не дают ИИ «взорваться»
Участники дискуссии выделили три главных технических препятствия, которые могут замедлить или остановить экспоненциальный рост возможностей ИИ, несмотря на масштабирование:
- Проблема обобщения (Generalization Gap): Берен Миллидж указывает на парадокс Моравека. ИИ может идеально решать задачи в бенчмарках, но сталкивается с непреодолимым разрывом между симуляцией и реальностью (sim-to-real gap). Если мета-обучение и непрерывное обучение (continual learning) останутся слишком сложными, ИИ будет застрять в роли «узкого специалиста».
- Циклы разочарования: Джон Шульман описывает повторяющийся сценарий: выход новой модели вызывает эйфорию, но через месяц использования становится очевидным её «глупость» в сложных сценариях. Модели не могут эффективно проверять сами себя, что создает «бутылочное горлышко» в продуктивности. Даже если ИИ пишет код в 100 раз быстрее человека, это не всегда конвертируется в 100-кратный рост эффективности инженеров.
- Пределы текущей парадигмы: Чарли О'Нилл сравнивает развитие ИИ с законом Мура. Мы видели линейный рост, который поддерживался дискретными прорывами (переход от pre-training к RL). Сейчас мы, вероятно, уперлись в асимптотическую кривую. Текущая архитектура (Transformer + RL) может быть неспособна самостоятельно найти следующий «прорыв», если он требует отказа от градиентного спуска или нейросетей в целом.
Сравнение позиций экспертов
| Эксперт | Роль | Главный аргумент против быстрого RSI |
|---|---|---|
| Берен Миллидж | CTO Zyphra | Отсутствие истинного обобщения и разрыв между симуляцией и реальностью (sim-to-real gap). |
| Джон Шульман | Chief Scientist, Thinking Machines | Слабое саморефлексивное суждение моделей и «бутылочное горлышко» в инженерных задачах. |
| Чарли О'Нилл | Head of Model Training, Baseten | Текущая парадигма (Transformer+RL) достигла предела; следующий прорыв может потребовать новой математики, которую ИИ не изобретет сам. |
Почему это важно?
Дискуссия разрушает упрощенный нарратив о неизбежном «взрывном» переходе к AGI. Если правы Шульман и О'Нилл, то мы вступаем в фазу медленного, линейного улучшения существующих архитектур, где ИИ становится мощным инструментом, но не автономным агентом, способным к бесконечной рекурсивной оптимизации. Это меняет стратегию инвестиций и регуляторных мер: фокус смещается с предотвращения «скачка» на управление постепенным внедрением ИИ в критическую инфраструктуру.
Источник: Dwarkesh ↗