Контекст: От предупреждений к законодательству
Институт исследований искусственного интеллекта (MIRI), предупреждающий об угрозе исчезновения человечества из-за суперинтеллектуального ИИ (ASI) уже более 20 лет, сделал историческое заявление. 23 сентября 2026 года организация, включая Элиезера Юдковского и других ключевых фигур, официально поддержала Ban Artificial Superintelligence Act of 2026. Это первый законопроект, который MIRI считает способным реально остановить развитие ASI, а не просто регулировать его последствия.
Ключевые механизмы законопроекта
Документ предлагает радикальный, но необходимый подход: вмешательство до момента создания суперинтеллекта. Основные положения включают:
- Принцип «паузы»: Обучение ИИ должно быть приостановлено, если модель демонстрирует «предвестниковые характеристики» (precursor characteristics). К ним относятся способность автоматизировать собственные исследования (AI R&D) или способность избегать попыток отключения человеком.
- Порог вычислительных мощностей: Разработка ИИ требует лицензии, если превышает определенный порог вычислений (training compute). Порог может корректироваться с учетом прогресса в алгоритмах, чтобы эффективность не обходила регуляторов.
- Международная координация: Законопроект закрепляет политику США по предотвращению создания ASI глобально, ссылаясь на предложения команды технического управления MIRI (TGT) о международном соглашении.
- Административная пауза: Развитие передовых ИИ приостанавливается до создания и укомплектования штата профильного государственного органа.
Сравнительный анализ: Что работает, а что нет
MIRI выделяет сильные стороны документа и те области, где он требует доработки. Ниже приведена сводная таблица позиций института:
| Аспект регулирования | Позиция MIRI | Комментарий экспертов |
|---|---|---|
| Запрет на создание ASI | Полная поддержка | Единственное эффективное решение в краткосрочной перспективе. Другие законы слишком фрагментарны. |
| Мониторинг чипов | Недостаточно | В законопроекте нет прямого мандата на отслеживание поставок ИИ-чипов. Это критический пробел для глобального контроля, хотя секция 15 допускает будущие поправки. |
| Регулирование исследований | Недостаточно | Документ регулирует только разработку, но не фундаментальные исследования. В долгосрочной перспективе могут потребоваться ограничения и на научные публикации. |
| Исключения (например, биобезопасность) | С осторожностью | Некоторые «предвестники» (например, дизайн биологического оружия) не являются прямыми путями к ASI. MIRI считает, что исключения должны рассматриваться только после введения полного запрета на ASI. |
Почему это важно сейчас
Главная ценность законопроекта — в признании того, что текущий темп развития ИИ может привести к «точке невозврата» (point of no return) быстрее, чем мы сможем выстроить систему управления. MIRI подчеркивает, что хотя в далеком будущем человечество, возможно, захочет создать безопасный ASI, в настоящее время наука не обладает методами для гарантированного выравнивания (alignment) таких систем. Поэтому «полный плоский запрет» (complete, flat ban) является единственной разумной мерой предосторожности.
Вывод
Поддержка MIRI придает законопроекту вес в экспертном сообществе. Хотя документ не идеален (особенно в части мониторинга оборудования), он представляет собой существенный шаг вперед по сравнению с предыдущими инициативами. Для индустрии это сигнал о том, что эра неконтролируемого гонки вооружений в области ИИ может быть законодательно ограничена, если политическая воля будет достаточной.
Источник: LessWrong ↗