Публичный бойкот и частное сотрудничество
Согласно данным TechCrunch, компания OpenAI официально не поддерживает платформу Open Agent Safety Platform, запущенную Nvidia. Эта инициатива направлена на создание отраслевых стандартов для предотвращения действий « rogue » (бесконтрольных или вредоносных) AI-агентов. Однако источник сообщает, что между двумя технологическими гигантами ведутся активные частные переговоры.
Это создает парадоксальную ситуацию: публично OpenAI дистанцируется от совместного стандарта, но фактически участвует в разработке решений «за закрытыми дверями». Подобная тактика часто используется компаниями, которые хотят сохранить гибкость в разработке своих продуктов, не привязываясь к жестким отраслевым рамкам, предложенным конкурентами или партнерами.
Почему Nvidia запускает платформу безопасности?
Nvidia, будучи ключевым поставщиком аппаратного обеспечения для обучения и инференса AI-моделей, заинтересована в стабильности экосистемы. Автономные AI-агенты, способные самостоятельно принимать решения и взаимодействовать с внешними системами, представляют растущие риски:
- Финансовые потери: Агенты могут совершать неавторизованные транзакции или покупать ресурсы в облаке без контроля.
- Утечки данных: Автономные системы могут случайно или намеренно передать конфиденциальную информацию.
- Репутационные риски: Инциденты с «сбежавшими» агентами подрывают доверие к ИИ в целом.
Платформа Nvidia призвана стать инструментом для мониторинга и ограничения таких действий на уровне инфраструктуры.
Контекст: Разные стратегии безопасности
Отсутствие OpenAI в публичном списке участников может свидетельствовать о различиях в подходах к безопасности. В то время как Nvidia предлагает инфраструктурное решение, OpenAI, возможно, разрабатывает собственные, более интегрированные в свои модели (такие как GPT-4o или новые агенты) механизмы контроля. Участие в отраслевом альянсе может ограничить их способность внедрять проприетарные методы безопасности, которые они считают более эффективными.
Что это значит для рынка?
Эта ситуация подчеркивает тенденцию к фрагментации стандартов безопасности в AI. Вместо единого отраслевого фронта мы видим формирование закрытых коалиций. Для разработчиков и корпоративных клиентов это означает, что совместимость и безопасность AI-агентов могут зависеть от конкретного провайдера, а не от универсальных отраслевых норм.
Ожидается, что в ближайшие месяцы детали частных договоренностей между OpenAI и Nvidia могут стать более ясными, особенно если появятся новые продукты, использующие эту совместную работу в области безопасности.
Источник: TechCrunch ↗