Новый стандарт подготовки кластеров: AICR и рецепты
NVIDIA анонсировала AI Cluster Runtime (AICR) — компонент платформы DSX AI Factory, который автоматизирует настройку Kubernetes для новых GPU-архитектур. Вместо ручного тюнинга драйверов, ядер и сетевых стеков, инженеры используют «рецепты» (recipes), которые захватывают валидированные конфигурации, генерируют деплой-бандлы и проводят проверку кластера. Для архитектуры NVIDIA Vera Rubin NVL72 уже доступны рецепты для обучения (training) и инференса (inference), включая вариант с платформой Dynamo.
Ключевые технические изменения по сравнению с GB200
Переход с GB200 NVL72 на Vera Rubin NVL72 требует обновления критических компонентов стека. Архитектура MGX третьего поколения вносит существенные изменения в драйверы, сеть и топологию:
- GPU Driver: Требуется ветка R615.23 (host-managed open-kernel-module). Поддержка R610 ранняя, официальная поддержка ожидается в R620.
- Сеть (NIC/DPU): ConnectX-7 и BlueField-3 заменены на ConnectX-9 SuperNICs и BlueField-4 DPUs. Базовая версия DOCA — 3.3.0.
- Топология: Изменено количество PCI-функций (8 групп ConnectX-9 против 4 адаптеров ConnectX-7). Сохранена привязка GPU 0-1 к CPU NUMA 0, GPU 2-3 к CPU NUMA 1.
- MIG: Новые профили MIG поддерживаются драйвером, но в текущих валидированных рецептах используется выделение целой GPU (whole-GPU allocation).
Результаты валидации и производительность
Команда NVIDIA провела end-to-end валидацию на раннем силиконе (early silicon) с использованием GPU Operator v26.7.0 и DRA driver v0.5.0. Были решены проблемы совместимости, включая ошибку в go-nvlib, которая приводила к crash-loop плагина kubelet. Итоговая проверка производительности через NCCL all-reduce показала следующие результаты:
| Метрика / Параметр | Значение / Версия |
|---|---|
| Драйвер GPU | R615.23 (open-kernel-module) |
| DRA Driver | v0.5.0 |
| GPU Operator | v26.7.0 |
| ОС | Ubuntu 26.04 (kernel 64k-page) |
| NCCL All-Reduce Bandwidth | 744.71 GB/s (bus bandwidth, 16 GiB) |
| Сетевые адаптеры | ConnectX-9 SuperNICs |
Практическое применение для DevOps
Для начала работы с новой архитектурой пользователям доступны два основных сценария через CLI AICR. Первый — генерация рецепта для обучения:
aicr recipe generate --service rke2 --accelerator vera-rubin-nvl72 --variant training
Второй — генерация рецепта для инференса с поддержкой NVIDIA Dynamo:
aicr recipe generate --service rke2 --accelerator vera-rubin-nvl72 --variant inference --dynamo
Все конфигурации помечены как Preview, так как платформа Vera Rubin находится в стадии pre-release. Однако валидированные доказательства (signed validation evidence) уже доступны для проверки целостности развертывания и соответствия требованиям производительности.
Источник: NVIDIA dev blog ↗