Суть сделки: Прозрачность вместо контроля
Представители Джей Обернотте (R-CA) и Лори Трахан (D-MA) представили проект закона Great American AI Act (GAAIA). Это не закон о запретах, а закон о видимости. Главная сделка заключается в том, что на 3 года штатам запрещается вводить собственные законы, регулирующие развитие передового ИИ. Взамен федеральное правительство обязывает крупные лаборатории публиковать фреймворки безопасности, сообщать об инцидентах и проходить независимые аудиты.
Это «видимый», а не «контролирующий» закон. Если аудит проходит плохо, компания платит штраф и публикует отчет, но модель все равно выходит на рынок. Это снижает сопротивление со стороны pro-business сообществ, но оставляет вопрос эффективности механизмов контроля открытым.
Кто подпадает под регулирование: Цифры и метрики
Закон четко разделяет разработчиков на две категории в зависимости от вычислительных мощностей и доходов. Порог входа для «передовых» разработчиков установлен на уровне 10^26 операций (FLOPs) при годовом доходе свыше $50 млн. Для «крупных передовых» разработчиков порог дохода повышается до $500 млн.
| Категория | Вычислительные затраты (FLOPs) | Годовой доход | Обязательства |
|---|---|---|---|
| Frontier Developers | > 10^26 | > $50 млн | Отчеты о прозрачности при релизе, отчеты об инцидентах за 15 дней, ответственность за ложные заявления. |
| Large Frontier Developers | > 10^26 | > $500 млн | Публикация фреймворков безопасности, полугодичные аудиты независимыми организациями (IVO), защита информаторов. |
Аудит по образцу SOX: Плюсы и минусы
Механизм аудита напоминает закон Сарбейнса-Оксли (SOX) для финансовой отчетности. Лаборатории сами разрабатывают фреймворки безопасности, а независимые аудиторы (IVO) проверяют, соответствуют ли они этим планам и являются ли планы адекватными. Это позволяет гибко адаптироваться к технологиям, но создает конфликт интересов: «Аудитор сертифицирует баланс рисков, а разработчик держит весы».
Штраф за нарушение составляет до $1 млн в день. Для компаний с доходом в $30 млрд это может быть расценено как «стоимость ведения бизнеса» (максимум $365 млн в год, что составляет менее 1% выручки). Эксперты предлагают привязывать штраф к проценту от выручки (например, 0.1%), чтобы сделать нарушение экономически невыгодным.
Критические уязвимости текста
В проекте обнаружены серьезные юридические и технические ошибки, которые могут сорвать весь закон:
- Отсутствие клаузулы неразрывности (severability): Если суд отменит часть закона (например, требования к прозрачности как принуждение к речи), преамбула о запрете штатов может остаться в силе, или наоборот. Рекомендуется добавить пункт, связывающий все ключевые разделы.
- Логическая ошибка в штрафах: Поправка, увеличивающая штраф за мошенничество с помощью ИИ, фактически снижает максимальный штраф, так как новая поправка (макс. $1 млн) меньше базового штрафа за почтовое мошенничество ($1 млн) с учетом надбавок. Требуется техническое исправление.
- Лазейка для стартапов без выручки: Порог в $50 млн дохода позволяет таким проектам, как «Safe Superintelligence» Ильи Сутскевера (с бюджетом $3 млрд), избежать регулирования, если они не генерируют коммерческую выручку, даже при превышении порога в 10^26 FLOPs.
Почему это важно
GAAIA — первый серьезный шаг к созданию единых федеральных стандартов. Он признает, что мы находимся в состоянии «нулевой видимости» относительно безопасности ИИ. Несмотря на недостатки, этот документ задает тон для будущих дебатов, смещая фокус с запретов на обязательную отчетность и независимый аудит, что является необходимым фундаментом для долгосрочной безопасности отрасли.
Источник: LessWrong ↗