Новый институт для доверия к AI
23 июня 2026 года OpenAI объявила о создании Appia Foundation, размещенной под эгидой Linux Foundation. Инициатива направлена на решение критической проблемы: отсутствия единых технических стандартов для оценки передовых моделей искусственного интеллекта. Appia будет разрабатывать открытые модульные спецификации, которые переводят международные рамки в практические критерии оценки по всей цепочке создания стоимости AI.
Ключевая задача фонда — создание «доверенного слоя» (trust layer), позволяющего третьим сторонам проверять соответствие моделей стандартам. Это обеспечит прозрачность и повторяемость доказательств безопасности, когда модели, инфраструктура и приложения разрабатываются разными организациями.
Стратегия демократического управления
Запуск Appia является частью более широкой стратегии OpenAI по укреплению институтов и стандартов. В недавнем «Blueprint for democratic governance of frontier AI» компания предложила дорожную карту, включающую:
- Создание устойчивой структуры управления в США.
- Усиление Центра стандартов и инноваций в области ИИ (CAISI).
- Разработку общей стратегии устойчивости на правительственном уровне.
OpenAI подчеркивает, что риски передового AI носят международный характер, поэтому нации должны сотрудничать для создания совместимых рамок безопасности и согласованных реакций на инциденты.
Практика и партнерства
OpenAI уже применяет свои принципы на практике. В документе «Shared Playbook for Trustworthy Third-Party Evaluations» описаны требования к прозрачности оценок: раскрытие тестируемой системы, доступа к инструментам, методов эlicitation (вызова) возможностей и ресурсов. Эти принципы внедрены через партнерства с CAISI (США) и AISI (Великобритания), что привело к конкретным улучшениям в системах безопасности, особенно в области биологических рисков.
Интеграция с существующими фреймворками
Работа Appia дополняет внутреннюю инфраструктуру безопасности OpenAI, состоящую из двух основных документов:
| Документ | Назначение |
|---|---|
| Preparedness Framework | Внутренняя основа для определения и операционализации управления серьезными рисками. |
| Frontier Governance Framework | Публичный документ, фокусирующийся на регуляторных обязательствах: оценке рисков, отчетности, контроле безопасности и реагировании на инциденты. |
Appia призвана сделать эти практики интероперабельными (взаимосовместимыми) между организациями, юрисдикциями и цепочками поставок.
Участие в глобальных стандартах
OpenAI активно участвует в формировании стандартов через множество форумов, включая:
- ISO/IEC JTC 1/SC 42 (стандарты AI).
- AI Consortium под руководством NIST.
- Frontier Model Forum и Agentic AI Foundation (Linux Foundation).
- Coalition for Secure AI и Coalition for Content Provenance and Authenticity.
- Internet Engineering Task Force (IETF) и Fast Identity Online Alliance (FIDO).
Цель всех этих усилий — перевести опыт разработки передовых моделей в открытые, технически обоснованные практики, доступные правительствам, компаниям и независимым оценщикам.
Источник: OpenAI ↗