Контекст: Черновик как инструмент лоббизма
В октябре 2026 года в сеть утекла версия законопроекта о безопасности ИИ, разработанная Anthropic. Anthony Cimino, глава федерального отдела связей с общественностью компании, попытался объяснить суть документа. Он заявил, что это не финальное решение, а «шаблон» для обсуждения, основанный на их Advanced AI Framework (AAIF). Однако критики отмечают, что публикация такого текста в сентябре 2026 года — это не поиск консенсуса, а попытка задать повестку в пользу индустрии, игнорируя реальные угрозы.
4 критических пункта, которые Anthropic проигнорировала
Анализ показывает, что компания предлагает слабые механизмы контроля, маскируясь под заботу о безопасности. Вот ключевые проблемы, которые остаются нерешенными:
- Премпция (Preemption): Anthropic предлагает федеральный стандарт, который должен заменять законы штатов. Хотя они заявляют о сохранении роли штатов в защите детей, язык законопроекта допускает широкую трактовку, ослабляя локальные инициативы. Критики требуют «скальпельного», а не широкого подхода к отмене местных законов.
- Блокировка моделей (Model Blocking): Предлагается механизм, при котором Министерство торговли просит суд заблокировать опасную модель. Проблема в том, что бремя доказывания возложено на государство, а стандарты сравнимы с обычной безопасностью труда. Для ИИ, где ошибки необратимы, требуется режим «сначала останови, потом разбирайся» (TRO без уведомления), а не долгие судебные тяжбы.
- Пороги риска (Risk Thresholds): Законопроект использует пороги из закона Калифорнии, требующие $1 млрд ущерба или 50 смертей для обязательного отчета. Это неприемлемо высоко: инциденты, подобные тому, что выявили на Hugging Face, остаются вне поля зрения регуляторов, если не достигают таких катастрофических масштабов.
- Обновления (Updates): Несмотря на заявления о доработках (например, запрет на внутреннее использование опасных моделей), структура остается компромиссной, угодной бизнесу, а не обществу.
Сравнение подходов: Anthropic vs. Требования безопасности
| Критерий | Позиция Anthropic (черновик) | Критический анализ (LessWrong) |
|---|---|---|
| Блокировка моделей | Судебный иск по запросу Минторга, высокий стандарт доказывания | Необходим экстренный TRO (запретительный приказ) без предварительного уведомления, так как риски ИИ необратимы |
| Пороги отчетности | $1 млрд ущерба или 50 погибших (стандарт CA) | Слишком высокие; многие инциденты (как на Hugging Face) не попадают под отчетность, но несут системные риски |
| Роль штатов | Федеральный стандарт заменяет местные, с оговорками | Требуется «скальпельный» подход: штаты должны сохранять полномочия в ключевых зонах (оценщики, защита whistleblower) |
Почему это важно?
Ситуация демонстрирует разрыв между корпоративным лоббизмом и пониманием экзистенциальных рисков. Anthropic позиционирует себя как лидер в области безопасности, но её законопроект фактически защищает бизнес-интересы, снижая порог входа для регуляторов и повышая порог ответственности для компаний. Если такие стандарты станут основой федерального закона, США могут упустить окно для создания эффективного контроля над передовыми ИИ-системами, полагаясь на самоконтроль индустрии.
Источник: LessWrong ↗