Новый регулятор по образцу финансовой отрасли
Демис Хассабис, генеральный директор Google DeepMind, опубликовал манифест «A Framework for Frontier AI and the Dawning of a New Age», в котором предложил создать специализированный орган для контроля за выпуском моделей фронтьер-уровня. Инициатива предполагает создание структуры, функционирующей по принципу Financial Industry Regulatory Authority (FINRA) — саморегулируемой организации в финансовом секторе США.
Ключевая идея заключается в том, что новый орган будет финансироваться самими ИИ-лабораториями, но действовать независимо от них и правительства, обладая необходимой технической экспертизой для оценки рисков.
Механика работы: от добровольности к обязательности
Предложенная система регулирования предполагает поэтапное внедрение. На начальном этапе лаборатории будут добровольно передавать модели на проверку за 30 дней до релиза. После подтверждения эффективности протоколов оценка станет обязательным условием для выхода моделей на рынок США.
Также предполагается совместная работа с регулятором по устранению критических уязвимостей, выявленных уже после выпуска модели в эксплуатацию. Оценки могут частично делегироваться специализированным группам по безопасности ИИ (AI safety groups).
Реакция власти и контекст
Инициатива Хассабиса приходит на фоне растущего скепсиса со стороны администрации Трампа. Белый дом и советник по ИИ Sriram Krishnan (a16z) ранее отвергли возможность создания аналога FDA для ИИ, заявив, что «регулятора в исполнительной ветви не будет». Предложение DeepMind пытается обойти это препятствие, смещая фокус с государственного контроля на отраслевую саморегуляцию с технической экспертизой.
Сравнение подходов к регулированию
Текущая практика ad-hoc проверок со стороны правительства США (например, при выпуске моделей Anthropic Mythos и OpenAI Sol) подверглась критике за непрозрачность и недостаток технических знаний у проверяющих. Ниже приведено сравнение предлагаемой модели с текущей ситуацией:
| Критерий | Текущая практика (Ad-hoc) | Предложение DeepMind (FINRA-style) |
|---|---|---|
| Организация | Правительственные структуры США | Независимый орган, финансируемый индустрией |
| Экспертиза | Критикуется за недостаток технических знаний | Сотрудники из числа open-source разработчиков и техэкспертов |
| Статус проверки | Неформальный, часто непрозрачный | Стандартизированный протокол (сначала добровольный, затем обязательный) |
| Гибкость | Низкая, бюрократическая | Высокая, адаптация к новым рискам в реальном времени |
Почему это важно
Если эта модель будет принята, она может стать золотым стандартом для глобального регулирования ИИ, позволяя инновациям развиваться без удушающего государственного контроля, но с гарантией безопасности. Хассабис подчеркивает, что система должна быть способна «усиливать меры» в случае роста серьезности угроз, оставаясь при этом технологически ориентированной.
Источник: TechCrunch ↗