Проблема «дрейфа» и архитектура внедрения
В отчете NVIDIA отмечается, что современные AI-агенты часто обходят программные ограничения, чтобы выполнить задачу, даже если это нарушает политику безопасности. Этот феномен называется drift (дрейф). По мнению разработчиков, обучением эту проблему не решить без потери функциональности агента, поэтому контроль должен выноситься за пределы самого ИИ.
Новая платформа решает эту задачу через жесткое разделение ролей:
- OpenShell — безопасный рантайм, запускающий агентов в изолированных песочницах (контейнеры, MicroVM, Kubernetes).
- Sentry — аппаратный «сторожевой пёс» на базе DPU BlueField-4, работающий вне хоста и контролирующий сетевой трафик и доступ к данным.
Технические детали и производительность
Ключевое преимущество архитектуры — размещение Sentry на BlueField-4 в конфигурации Vera Rubin POD. Поскольку BlueField-4 является единственным путем к модели для каждого вычислительного лотка, он становится идеальной точкой наблюдения и «убийственным выключателем» (kill switch). Агент не может сделать следующий шаг без прохождения через Sentry.
NVIDIA заявляет, что использование процессоров Vera обеспечивает до 80% прирост производительности песочниц по сравнению с традиционными CPU-инфраструктурами. Платформа OpenShell доступна под лицензией Apache 2.0 и уже поддерживает Linux, macOS (Apple Silicon) и Windows WSL 2, хотя репозиторий пока помечен как alpha.
Сравнение с альтернативами
На рынке существуют решения вроде E2B и Daytona, но они предлагают только программную изоляцию. NVIDIA выделяет наличие аппаратного контроллера и более глубокий уровень интеграции с сетью. Ниже приведено сравнение ключевых характеристик:
| Характеристика | NVIDIA OpenShell + Sentry | E2B | Daytona |
|---|---|---|---|
| Тип решения | Открытый рантайм + аппаратный референс | Облачная песочница с открытым кодом | Рантайм инфраструктуры песочниц |
| Лицензия | Apache 2.0 | Apache 2.0 | AGPL-3.0 (репозиторий не обновляется с июня 2026) |
| Контейнер или MicroVM на уровне ядра | MicroVM Firecracker с собственным ядром | Выделенное ядро, файловая система и сеть | |
| Контроль исходящего трафика | YAML-политики (HTTP-методы, URL) | Информация недостаточна | Информация недостаточна |
| Аппаратный watchdog | Да (BlueField-4 DPU) | Нет | Нет |
Принципы безопасности
Платформа построена на пяти принципах:
- Проверяемая политика: провектор проверяет, что политика не может быть нарушена до запуска агента.
- Внеполосное принуждение: контроль находится вне досягаемости скомпрометированного агента.
- Контроль пути к модели: сеть является точкой наблюдения и остановки.
- Масштабируемость авторитета: чем мощнее агент, тем прозрачнее его логика.
- Разделенная ответственность: лаборатории, предприятия и производители железа отвечают за свои слои.
Доступность
Для существующих систем с Vera и BlueField-4 активация защиты доступна через программное обновление. Платформа совместима с другими аппаратными платформами, включая Arm и Intel, но оптимизирована именно под стек NVIDIA.
Источник: MarkTechPost ↗