Политический контекст: от США до ООН
В сентябре 2026 года тема регулирования ИИ достигла пика. Сенатор Берни Сандерс инициировал Ban Artificial Superintelligence Act в США, а в Великобритании законопроект Artificial Superintelligence Bill прошел первое чтение в Палате общин 8 сентября. Генсек ООН Антониу Гутерриш и председатель Еврокомиссии Урсула фон дер Ляйен 16 сентября призвали к глобальной координации усилий по безопасности ИИ.
Однако ключевая проблема заключается в том, что ИИ — это программное обеспечение с глобальным охватом. Односторонние запреты не работают: если одна страна введет ограничения, а другая нет, возникнет «гонка ко дну» (race-to-the-bottom), где страны будут снижать стандарты безопасности для привлечения бизнеса. Поэтому эффективный запрет требует международного соглашения, как того требует британский законопроект.
Техническая ловушка: обучение против инференса
Главный недостаток текущих законопроектов — фокус только на запрете обучения новых моделей (training runs). Это неэффективно из-за явления inference-time scaling. Согласно International AI Safety Report 2026, модели становятся мощнее уже в процессе развертывания, используя больше вычислительных ресурсов во время инференса (inference).
Чтобы реально остановить создание суперинтеллекта, необходимо запретить не только тренировку новых сетей, но и инференс текущих передовых моделей (frontier models) для целей развития ИИ. Без этого существующие модели могут эволюционировать в суперинтеллект просто за счет увеличения вычислительных мощностей при использовании.
Экономическое и социальное давление
Комплексный запрет (глобальный + ограничение инференса) создаст нестабильную среду. Крупные ИИ-компании окажутся в тупике: им запретят тренировать новые модели, ограничат использование существующих и не позволят перенести бизнес в юрисдикции с мягкими правилами. Это ударит по их финансовой модели, основанной на обещании более умных агентов.
Общественное давление будет расти по трем направлениям:
- Скептики рисков: Люди не увидят разницы между моделями, выпущенными полгода назад, и текущими, но почувствуют потерю потенциальных выгод. Запрет будет воспринят как радикальная мера, ограничивающая прогресс.
- Геополитическая уязвимость: Страх, что одна из стран нарушит договоренность тайно, получив огромное преимущество, оставит остальные страны в проигрыше.
- Неправильное решение: Убеждение, что запрет останавливает прогресс в решении других проблем (климат, безопасность ИИ), которые, как ожидается, решат только более мощные модели будущего.
Вывод: нужен механизм безопасного открытия
История показывает, что полный запрет нежизнеспособен в долгосрочной перспективе. Давление со стороны корпораций и общества заставит политиков открыть доступ к разработке. Вместо тотального запрета необходим механизм верифицируемых и тщательно отобранных случаев использования (verifiable use cases), позволяющий безопасно развивать некоторые направления ИИ без создания неконтролируемого суперинтеллекта.
Источник: LessWrong ↗