NVIDIA, Microsoft и другие создали Open Secure AI Alliance для защиты open-source ИИ

Создан альянс для защиты открытых ИИ-моделей

NVIDIA и более двух десятков других компаний, включая Microsoft, Adobe, IBM, Red Hat, SpaceX, OpenClaw и Palantir, объявили о создании Open Secure AI Alliance. Инициатива направлена на повышение безопасности и надежного использования открытых ИИ-моделей. Альянс опирается на существующие структуры Linux Foundation, такие как Akrites и OpenSSF, и ставит своей целью оперативное выявление и устранение уязвимостей с использованием открытых технологий.

Инцидент с Hugging Face как катализатор

Ключевым триггером для создания альянса стал недавний инцидент безопасности на платформе Hugging Face. NVIDIA подчеркивает, что закрытые ИИ-инструменты часто не способны отличить атакующих от защитников, блокируя необходимый анализ. В ответ Hugging Face использовала открытую модель GLM 5.2 на собственной инфраструктуре для анализа более 17 000 действий и сдерживания вторжения. Этот случай продемонстрировал критическую важность возможности инспекции и адаптации ИИ-систем самими защитниками в реальном времени.

Почему это важно: прозрачность и контроль

В заявлении NVIDIA отмечается, что компании и государства нуждаются в открытых передовых инструментах обороны, чтобы избежать единых точек отказа и построить многовендорные экосистемы безопасности. Альянс призван обеспечить, чтобы защитники имели доступ к инструментам, которым можно доверять и которые они могут контролировать. Это особенно критично для критически важных отраслей, где скорость реакции и прозрачность алгоритмов играют решающую роль.

Синергия закрытых и открытых моделей

Важно отметить, что альянс не отвергает закрытые модели. NVIDIA указывает, что защитникам необходимы как закрытые, так и открытые передовые модели, работающие в связке. Это позволяет выбирать оптимальную систему для конкретной задачи, обеспечивая прозрачность, возможность адаптации и суверенный контроль там, где этого требует безопасность.

Источник: Phoronix ↗