Суть аргументации: от количества к качеству
Основной аргумент скептиков — ИИ упрется в потолок доступных данных. Однако автор выделяет три типа ограничений: количество (больше данных того же распределения), качество (более экспертные данные) и охват (новые навыки). Ключевой вывод: если ИИ достигнет уровня исследования ИИ (AI R&D), он создаст алгоритмы, требующие минимального количества данных (sample-efficient), подобно тому как человек учится на опыте, а не на терабайтах текста.
Фазы прогресса и влияние данных
Прогресс ИИ делится на три фазы. В фазе масштабирования (Scaling) данные критичны. Однако в фазе программного взрыва интеллекта (Software Intelligence Explosion) двигатель прогресса — это улучшение алгоритмов, а не объема данных. ИИ начнет генерировать данные высшего качества сам, компенсируя отсутствие человеческих экспертов.
Параметры влияния на скорость прогресса
| Тип ограничения | Влияние на взрыв ИИ | Механизм преодоления |
|---|---|---|
| Нехватка объема (Quantity) | Минимальное | ИИ создаст алгоритмы, требующие мало данных для обучения |
| Нехватка качества (Quality) | Замедление | Генерация суперчеловеческих данных через RL и "мышление" ИИ |
| Параметрический налог (Paradigm Tax) | Замедление | ИИ должен сам изучать новые парадигмы без готовых текстов |
Почему это важно для экономики
Хотя отсутствие человеческой базы данных замедляет переход от AGI к AGI+, это не меняет тренд ускорения. Каждый следующий шаг будет занимать меньше времени, чем предыдущий, пусть и с поправкой на "налог" на новые парадигмы. Это означает, что после достижения порога интеллектуального взрыва ИИ сможет быстро автоматизировать большую часть экономической деятельности, так как сможет самостоятельно собирать и структурировать необходимые доменные знания.
Источник: LessWrong ↗