Ошибка стандартного аргумента
В дискуссиях об искусственном интеллекте часто встречается логическая ошибка: утверждается, что поскольку физические вычислительные мощности растут экспоненциально, вероятность программного взрыва интеллекта (Software Intelligence Explosion, SIE) возрастает. Автор статьи опровергает это, показывая, что рост «железа» не влияет на вероятность самого взрыва, а лишь ускоряет прогресс до его наступления.
Математическая модель эффективности
Эффективные вычисления ($C_{eff}$) определяются произведением физического оборудования ($C_{phys}$) и алгоритмической эффективности ($E$). Для наступления SIE необходимо, чтобы темп роста эффективных вычислений сам ускорялся (суперэкспоненциальный рост). Если физические мощности растут экспоненциально, их вклад в темп роста эффективности становится константой, что не меняет динамику системы.
| Компонент | Характер роста | Влияние на вероятность SIE |
|---|---|---|
| Физические вычисления ($C_{phys}$) | Экспоненциальный | Нулевое (не меняет вероятность взрыва) |
| Алгоритмическая эффективность ($E$) | Суперэкспоненциальный | Критическое (единственный драйвер SIE) |
| Эффективные вычисления ($C_{eff}$) | Зависит от $E$ | Требует ускорения темпа роста |
Почему «железо» не спасает от стагнации
Продукт двух экспонент остается экспонентой. Если алгоритмическая эффективность растет только экспоненциально, добавление новых процессоров не переведет систему в режим суперэкспоненциального роста. Единственный способ, при котором физическое оборудование может способствовать взрыву, — это если производство чипов само станет частью обратной связи, улучшающей технологии производства, что является гораздо более сильным и редким условием.
Практический вывод для индустрии
Рост вычислительных мощностей действительно сокращает время удвоения возможностей ИИ, ускоряя текущий прогресс. Однако он не меняет фундаментальный вопрос о том, насколько вероятен переход к автономному самосовершенствованию. Ключевым фактором остается не количество транзисторов, а способность алгоритмов обходить убывающую отдачу от исследований.
Источник: LessWrong ↗