Проблема «Звезды Смерти» в реальном мире
Концепция MAIM (Mutually Assured AI Malfunction) предполагает, что страны будут саботировать инфраструктуру друг друга, чтобы предотвратить одностороннее доминирование в ИИ. Логика проста: если ИИ — это новая ядерная бомба, то уничтожение дата-центров должно работать как сдерживание. Однако, как отмечает исследователь Феликс Чуссо (Felix Choussat), эта аналогия хрупка. В отличие от ядерных арсеналов, ИИ-инфраструктура распределена, а восстановление вычислительных мощностей происходит быстрее, чем принято считать.
Результаты количественного моделирования
Автор провел моделирование, основанное на прогнозах роста вычислительных мощностей (compute) по данным Epoch Cluster и Frontier, а также моделях программного прогресса AIFP. Целью было определить, насколько сильно уничтожение части вычислительных ресурсов отсрочит достижение целевых показателей (SAR и ASI benchmarks). Результаты оказались пугающе скромными для сторонников «кинетического сдерживания»:
| Параметр | Значение / Вывод |
|---|---|
| Эффект от масштабных атак | Задержка развития ИИ составляет всего 1–5 лет |
| Влияние национализации | Выжившие мощности могут быть централизованы, что значительно нивелирует потери |
| Сравнение с ядерным сдерживанием | MAIM не обеспечивает вечного тупика, как MAD (Mutually Assured Destruction) |
| Ключевой вывод | Саботаж — это не стоп-кран, а лишь временная задержка |
Почему США и Китай уязвимы по-разному
Модель учитывает асимметрию между двумя лидерами. США обладают значительно большим объемом вычислительных ресурсов и более дешевым доступом к чипам благодаря экспортным ограничениям, которые они накладывают на соперников. Китай, рискуя проиграть гонку, может прибегнуть к кинетическим ударам, но даже тотальное уничтожение части инфраструктуры не остановит процесс. Вместо этого страны будут форсированно национализировать и консолидировать оставшиеся ресурсы, сокращая время восстановления.
Стратегические последствия
Если саботаж дает лишь краткосрочную задержку, ставка на него как на основной инструмент безопасности становится контрпродуктивной. Это создает риск эскалации без достижения стратегической цели. Исследование предлагает два альтернативных пути:
- Провести больше исследований в области сдерживания на уровнях эскалации ниже кинетических ударов.
- Разработать механизмы, которые не будут препятствовать будущим переговорам о регулировании развития ИИ.
Вместо иллюзии контроля через разрушение, государствам необходимо сосредоточиться на создании устойчивых механизмов диалога, так как физическое уничтожение дата-центров не остановит гонку вооружений в сфере искусственного интеллекта.
Источник: LessWrong ↗