Закрываем разрыв между конфигурацией и реальностью
Команда NVIDIA представила обновление AI Cluster Runtime (AICR) версии 1.2.0, которое решает критическую проблему безопасности и управления в AI-инфраструктуре. Раньше платформы вроде NVIDIA Dynamo или Kubeflow позволяли воспроизводить конфигурацию кластера, но не фиксировали, какие именно AI-модели и версии образов фактически работают на узлах. Использование плавающих тегов (например, :latest) создавало риск запуска непроверенного кода.
Новое решение интегрирует проект k8s-aibom (на базе CycloneDX 1.6) непосредственно в цикл развертывания AICR. Теперь каждый валидированный рецепт генерирует не только набор манифестов, но и компонент инвентаризации, который непрерывно мониторит поды Kubernetes, фиксируя фактические артефакты, модели и рантаймы.
Технические детали и производительность
Интеграция работает «из коробки» в двух стандартных рецептах: h100-gke-cos-inference и h100-gke-cos-inference-dynamo. Для других конфигураций GKE доступна опция --runtime-inventory. Система автоматически классифицирует workload'ы, выявляет теневые AI-приложения и отслеживает изменения зависимостей.
В ходе валидации AICR v1.2.0 (с привязкой k8s-aibom 1.6.2) были получены следующие метрики производительности контроллера инвентаризации в режиме steady-state:
| Метрика | Значение | Комментарий |
|---|---|---|
| Запросы к API-серверу | ~4 в минуту | Минимальная нагрузка на контроль кластера |
| Среднее потребление CPU | 2.2 millicores | Практически незаметно для рабочих нагрузок |
| Working set памяти | 28–34 MiB | Экономичное использование ресурсов узла |
Что именно отслеживает система?
k8s-aibom не просто считает поды, а формирует структурированные отчеты AIBOM с указанием уровня достоверности (confidence tiers) и локаторов доказательств. Система поддерживает отслеживание следующих ресурсов:
- Нативные графы NVIDIA Dynamo.
- Ресурсы NIMService, LeaderWorkerSet и DisaggregatedSet.
- Детали моделей, контейнерных образов и внешних API (включая векторные базы данных).
Это позволяет командам безопасности проводить аудиты, реагировать на инциденты и соблюдать комплаенс, имея точное представление о том, что запущено в каждом namespace.
Как внедрить решение
Процесс развертывания полностью автоматизирован через CLI. Пользователь генерирует рецепт, создает бандл с контрольными суммами и развертывает его. Контроллер k8s-aibom запускается в namespace k8s-aibom-system и начинает сбор данных сразу после деплоя.
Для воспроизведения результатов требуется кластер GKE с Kubernetes 1.32+, узлы с GPU NVIDIA H100 и Container-Optimized OS. Исходный код AICR и k8s-aibom доступен в открытых репозиториях NVIDIA и Google соответственно.
Источник: NVIDIA dev blog ↗