Открытость как основа безопасности
В ответ на растущие киберугрозы в сфере ИИ, NVIDIA и более 30 технологических компаний, включая Hugging Face, Microsoft, Adobe, Cisco и CrowdStrike, основали Open Secure AI Alliance. Инициатива, опирающаяся на опыт Linux Foundation (Akrites и OpenSSF), ставит целью создание прозрачной экосистемы защиты. Аргумент прост: закрытые модели создают единую точку отказа, тогда как открытые инструменты позволяют защитникам самостоятельно проверять, адаптировать и развертывать средства обороны на своей инфраструктуре.
Урок Hugging Face: почему скорость реакции критична
Ключевым аргументом в пользу открытых решений стал инцидент с безопасностью Hugging Face. Когда закрытые ИИ-инструменты заблокировали анализ действий злоумышленников, компания была вынуждена использовать открытую модель GLM 5.2 на собственных серверах. Это позволило проанализировать более 17 000 действий и локализовать вторжение. Инцидент доказал: если защитник не может инспектировать и запускать ИИ на своей инфраструктуре, его способность реагировать ограничена именно в тот момент, когда скорость решает всё.
Вклад NVIDIA: фреймворк NOOA
NVIDIA вносит существенный вклад в развитие альянса, опубликовав на GitHub новый проект — NVIDIA Labs Object-Oriented Agent (NOOA). Это исследовательская рамка для агентов ИИ, которая позволяет хайнерам (harnesses) лучше интегрироваться с моделями. NOOA упрощает тестирование, отслеживание, аудит и управление поведением агентов, делая передовые возможности безопасности доступнее для сообщества.
Технологический стек альянса
Участники альянса уже предоставили конкретные инструменты для построения открытого стека защиты. Ниже приведены ключевые вклады партнеров:
| Компания | Технология/Проект | Назначение |
|---|---|---|
| HPE | SPIFFE/SPIRE | Стандарты нулевого доверия для криптографической верификации агентов ИИ |
| Hugging Face | Safetensors | Безопасный формат хранения весов моделей (защита от удаленного выполнения кода) |
| IBM & Red Hat | Lightwell | Расширение безопасности цепочки поставок ПО с цифровыми подписями патчей |
| Microsoft | MDASH | Многоагентный сканирующий хайнер для обнаружения и доказательства уязвимостей |
| SpaceXAI | Grok Build | Открытый терминальный ИИ-агент для кодинга; планы по открытию весов Grok |
Призыв к регуляторам
Альянс призывает политиков и регуляторов рассматривать открытые модели не как угрозу, а как оборонительный актив. Блокировки открытых систем могут привести к концентрации власти в руках нескольких провайдеров закрытых решений. Вместо этого предлагается инвестировать в общие открытые инфраструктуры: датасеты, фреймворки оценки, симуляторы атак и инструменты для red-teaming, чтобы обеспечить суверенный контроль над безопасностью ИИ.
Источник: NVIDIA Blog ↗