Интеграция Raptor в экосистему NVIDIA
Компания d-Matrix, специализирующаяся на чипах для AI-инференса, объявила о переходе на архитектуру NVIDIA NVLink Fusion. Это решение позволит интегрировать кастомные процессоры Raptor XPU в платформу NVIDIA AI, используя масштабируемые соединения NVLink (scale-up) и сеть Spectrum-X (scale-out). Цель — ускорить вывод на рынок и снизить риски развёртывания кастомного кремния в масштабах дата-центров.
Технические преимущества и метрики
NVLink Fusion решает главную проблему создателей кастомных чипов: сложность создания инфраструктуры с нуля. Платформа предоставляет готовую архитектуру стойки (MGX), системы охлаждения, питания и ПО. Ключевые технические характеристики решения:
| Параметр | Значение / Характеристика |
|---|---|
| Задержка XPU-to-XPU | В 3 раза ниже, чем у стандартного Ethernet |
| Частота пакетов | В 10 раз выше |
| Пропускная способность (All-to-All) | 3 ТБ/с на XPU (NVLink 6-го поколения) |
| Поддерживаемые CPU | Arm, x86, RISC-V и NVIDIA GPUs |
Полный стек технологий
d-Matrix планирует использовать не только NVLink, но и весь спектр компонентов NVIDIA для построения «полупользовательских AI-фабрик». В инфраструктуру войдут:
- Процессоры: NVIDIA Vera CPUs и кастомные Raptor XPUs.
- Сеть: ConnectX-9 SuperNIC и Ethernet-коммутаторы Spectrum-X.
- Управление: NVIDIA BlueField-4 DPUs.
- Архитектура: Стоечная архитектура NVIDIA MGX с жидкостным охлаждением.
Стратегическое значение для рынка
По словам сооснователя и CEO d-Matrix Сиджета Шета (Sid Sheth), спрос на инференс растет, но ресурсы (капитал, время, энергия) ограничены. Интеграция через NVLink Fusion позволяет d-Matrix сосредоточиться на инновациях в кремнии, не тратя ресурсы на разработку сетевой инфраструктуры. Это создает гибкую среду, где специализированные XPU могут работать бок о бок с GPU NVIDIA (например, Vera Rubin NVL72), обеспечивая оптимальную производительность на ватт и минимальную стоимость за токен.
Источник: NVIDIA Blog ↗