Суть предложения: «Чипы только для инференса»
Авторы документа "The Feasibility of a Hardwired Pause of Frontier AI Training" предлагают радикальное, но технически реализуемое решение. План требует немедленного международного моратория на производство полупроводников, способных обучать новые нейросети. Разрешается выпускать только «hardwired chips» (чипы с фиксированной логикой) — устройства, предназначенные исключительно для инференса (запуска уже существующих моделей).
Ключевое преимущество подхода — устранение проблемы «сухого пороха» (dry tinder problem). При других планах паузы (например, Plan A) существующие мощные вычислительные кластеры остаются в обращении. Если гонка вооружений возобновится, суперинтеллект может быть достигнут за считанные дни или месяцы, так как вся инфраструктура уже готова. Hardwired Pause физически лишает злоумышленников возможности быстро собрать флот для обучения новой модели.
Масштаб проблемы: Инвентаризация вычислений
Для реализации плана требуется глобальная инвентаризация существующих вычислительных мощностей. Авторы приводят конкретные цифры по США и Китаю — двум лидерам в области ИИ:
| Страна | Оценка количества чипов (H100-эквивалент) | План действий |
|---|---|---|
| США | ~30 000 000 | Перевод на инференс, верификация, затем вывод из эксплуатации |
| Китай | ~3 000 000 | Аналогичный процесс контроля и утилизации |
Исследователи утверждают, что около 99% этих устройств (за исключением ~10 000 единиц) могут быть идентифицированы и переведены в режим инференса или утилизированы. Это делает план более реалистичным, чем полное уничтожение инфраструктуры.
Сравнение с альтернативами: Plan A и Plan S
Авторы сравнивают свой подход с известными инициативами, выделяя технические различия:
- Plan A (Will Fithian, Wesley Holliday): Также начинается с инвентаризации, но предполагает временную паузу (около 15 лет) с сохранением возможности обучения. Главный риск — нестабильность: если договор нарушен, восстановление ИИ происходит мгновенно. Plan A пытается митигировать это физическим уничтожением дата-центров нарушителей, что создает риски эскалации конфликтов.
- Plan S (MIRI): Опора на традиционные методы верификации и ограничения исследований. Hardwired Pause рассматривается как более надежная техническая реализация идеи MIRI, так как устраняет саму возможность обучения, а не просто контролирует её.
Почему это важно сейчас?
По мнению авторов, это, вероятно, самый глубокий анализ осуществимости паузы на сегодняшний день. План позволяет:
- Избежать экономического коллапса (инференс-чипы продолжают работать, ИИ-сервисы функционируют).
- Не полагаться на доверие к геополитическим оппонентам (физическое отсутствие оборудования для обучения).
- Дать обществу время на адаптацию, безопасность и разработку регуляторных рамок.
Автор статьи Дэвид Скотт Кругер отмечает, что, хотя полное уничтожение цепочки поставок чипов было бы идеальным сценарием, Hardwired Pause является наиболее политически и технически приемлемым компромиссом для немедленного действия.
Источник: LessWrong ↗