Физические и экономические узкие места
Прогнозы сроков появления искусственного сверхразума (ASI) сжимаются, но реальность накладывает жесткие ограничения. Автор выделяет несколько ключевых физических барьеров. Во-первых, энергетические лимиты: дата-центры заявляют мощности в гигаватты, но сроки подключения к сетям часто сдвигаются из-за разрешений и финансирования. Во-вторых, дефицит оборудования. По данным IDC, мощность производства пластин (wafer capacity) вырастет лишь на 80% в 2027 году, тогда как спрос удвоится.
Также важен риск коррекции рынка: если инвестиции в ИИ окажутся менее прибыльными, чем ожидается, это может спровоцировать финансовый шок. Политические ограничения, такие как моратории на строительство дата-центров и экспортный контроль, особенно после изменений в политике США, могут существенно замедлить развертывание инфраструктуры.
Алгоритмические и исследовательские тупики
Даже при наличии ресурсов существуют внутренние ограничения самих алгоритмов. Распределенное обучение сталкивается с проблемой передачи данных (data-movement bottlenecks) и памяти (memory wall), где пропускная способность памяти не успевает за скоростью процессора. Особую сложность представляют «грязные задачи» (messy tasks), где нет единственно верного ответа — например, инвестирование или управление компанией. Обучить ИИ «исследовательскому чутью» через RL пока невозможно.
Критическим фактором становится надежность на длинных горизонтах. ИИ хорошо справляется с короткими задачами, но его успех падает, когда требуется планирование на месяцы или годы. Кроме того, масштабирование команды исследователей не дает линейного эффекта: увеличение числа агентов в 10 раз дает прирост, эквивалентный всего 3–5-кратному увеличению вычислительных ресурсов одного агента из-за дублирования работы и сложности коммуникации.
Фундаментальные пределы вычислений
В третьей части анализа рассматриваются пределы, которые невозможно обойти просто увеличением бюджета. К ним относятся вычислительная сложность (некоторые задачи требуют экспоненциального времени), вычислительная нередуцируемость (прогноз эволюции системы требует её полного прогона) и хаос (невозможность долгосрочного предсказания физических систем из-за чувствительности к начальным условиям).
Наконец, существуют физические пределы: предел Ландауэра, граница Бекенштейна и теорема Марголиуса–Левитина. Если именно эти законы физики станут главным ограничителем, то текущие прогнозы сроков появления ASI могут оказаться неверными.
Сводная таблица барьеров
| Категория | Барьер | Суть проблемы |
|---|---|---|
| Физика/Экономика | Энергия и Железо | Дефицит пластин (спрос x2, предложение +80%), сложности с подключением к сетям. |
| Алгоритмы | Память и Данные | Memory wall и узкие места передачи данных в кластерах. |
| Алгоритмы | Длинные горизонты | Падение надежности при задачах, требующих планирования на месяцы/годы. |
| Исследования | Масштабирование | Закон убывающей отдачи: 10x больше исследователей дают лишь 3-5x прирост эффективности. |
| Фундамент | Физика | Пределы Ландауэра, Бекенштейна и скорость света как абсолютные барьеры. |
Источник: LessWrong ↗
