Масштаб Vera Rubin NVL72: 72 GPU в одном шкафу
На стенде Aivres в Сан-Хосе доминировала система KRS8000V4 — жидкостно-охлаждаемый AI-шкаф на базе архитектуры NVIDIA Vera Rubin NVL72. Это не просто сервер, а полноценная вычислительная стойка, объединяющая 72 GPU и 36 процессоров Vera в единый домен через NVLink шестого поколения.
Конфигурация включает 18 вычислительных модулей 1U и 9 коммутационных блоков NVLink. Общая емкость памяти HBM превышает 20 ТБ. Система работает при температуре жидкости до 45°C, что обеспечивает высокую эффективность охлаждения (для сравнения, температура горячей воды в ванне составляет 38-39°C).
HGX Rubin NVL8: 400 PFLOPS в 2U форм-факторе
Более компактное решение — KL2288 — представляет собой 2U вычислительный трейнер на базе HGX Rubin NVL8. В основе платформы лежат 8 GPU Rubin и два процессора AMD EPYC 9006 «Venice». Система полностью лишена вентиляторов (fanless) и использует жидкостное охлаждение для CPU, GPU и модулей DDR5.
Производительность системы впечатляет: до 400 PFLOPS для инференса в формате NVFP4 и 280 PFLOPS для обучения. Объем памяти HBM4 составляет 2.3 ТБ с пропускной способностью 176 ТБ/с.
Технические характеристики и сравнение
Ниже приведено сравнение ключевых параметров представленных решений Aivres:
| Параметр | Aivres KRS8000V4 (Vera Rubin NVL72) | Aivres KL2288 (HGX Rubin NVL8) |
|---|---|---|
| Форм-фактор | 19-дюймовая стойка (Rack) | 2U Compute Tray |
| Количество GPU | 72 (Rubin) | 8 (Rubin) |
| Процессоры | 36x Vera CPU | 2x AMD EPYC 9006 «Venice» |
| Производительность (NVFP4) | Не указана (масштабная доменная вычислительная мощность) | 400 PFLOPS (инференс) / 280 PFLOPS (обучение) |
| Объем памяти HBM | >20 ТБ | 2.3 ТБ (HBM4) |
| Охлаждение | Полностью жидкостное (до 45°C) | Полностью жидкостное, fanless |
| Интерфейсы | Интегрированный NVLink spine | UART, 2x USB, 2x RJ45, 8x E1.S, DPU slot |
Почему это важно
Презентация KL2288 демонстрирует зрелость экосистемы NVIDIA для новых архитектур. Использование AMD EPYC 9006 в связке с Rubin GPU показывает альтернативный путь интеграции x86-процессоров в AI-кластеры. Отсутствие вентиляторов в 2U-формате — это инженерный прорыв, позволяющий снизить шум и энергопотребление на вспомогательные системы охлаждения, что критично для плотных AI-развертываний.
Источник: ServeTheHome ↗