Рекордная скорость обучения на DeepSeek-V3
Ключевым достижением Vera Rubin NVL72 стала работа с моделью DeepSeek-V3 671B (Mixture-of-Experts). На кластере из 1 024 GPU платформа обучила модель за 4.14 минуты, что вдвое быстрее результата GB300 NVL72 (8.03 минуты). Это критически важно для MoE-архитектур, где каждый шаг требует интенсивного all-to-all обмена данными. При этом NVIDIA сохранила эффективность масштабирования выше 97% при расширении с 256 до 1 024 GPU, что стало возможным благодаря медной шине NVLink 6 (3.6 ТБ/с на GPU) и сетевым адаптерам ConnectX-9.
Лидерство в новом бенчмарке RL для агентов
В версии MLPerf v6.1 впервые появился бенчмарк пост-обучения с подкреплением (RL) — Qwen 3.5 397B GRPO. Vera Rubin NVL72 показала время 10.44 минуты на 1 024 GPU, опередив GB300 (13.78 минуты). Платформа продемонстрировала зрелость стека, успешно запустив тест как через TensorRT-LLM, так и через vLLM. Это подтверждает готовность архитектуры к задачам агентов, где требуется постоянная миграция весов между инференсом и обучением.
Сравнительная таблица производительности (Vera Rubin vs GB300)
Ниже приведены данные по приросту производительности на GPU для различных типов моделей в закрытом дивизионе MLPerf Training v6.1:
| Тип модели | Бенчмарк | Количество GPU | Прирост производительности |
|---|---|---|---|
| Mixture-of-Experts | DeepSeek-V3 671B | 1,024 | 2.0x |
| Mixture-of-Experts | Qwen3.5 397B GRPO (RL) | 64 | 1.4x |
| Mixture-of-Experts | gpt-oss 20B | 64 | 1.6x |
| Dense | Llama 2 70B LoRA | 72 | 1.5x |
| Dense | Llama 3.1 8B | 72 | 1.6x |
| Diffusion | FLUX.1 | 72 | 1.5x |
| Recommender | DLRMv4 | 128 | 1.4x |
Масштаб и экосистема
NVIDIA также продемонстрировала возможности масштабирования на примере GB300 NVL72, обучив DeepSeek-V3 за 1.38 минуты на кластере из 10 240 GPU (160 стоек). В целом, платформы NVIDIA заняли первые места во всех семи категориях MLPerf v6.1. 80% закрытых заявок были поданы на инфраструктуре NVIDIA 20 партнерами. Система Vera Rubin NVL72 уже доступна через облачных провайдеров по всему миру.
Источник: NVIDIA dev blog ↗
