От чипов к инфраструктуре: запуск Squadron
Компания d-Matrix официально представила Squadron — линейку многошкафных вычислительных систем, предназначенных для высокопроизводительного инференса больших языковых моделей (LLM). Это знаменует переход компании от производителя специализированных чипов к поставщику комплексной инфраструктуры для дата-центров. Решение разработано в партнерстве с Arista Networks, Broadcom и Supermicro.
Ключевое преимущество Squadron — использование воздушного охлаждения (air-cooled) и соответствие отраслевым стандартам. Это позволяет интегрировать кластеры в существующие ЦОД без дорогостоящей модернизации систем жидкостного охлаждения, что критически важно для снижения TCO (Total Cost of Ownership).
Технические характеристики и масштабируемость
Платформа Corsair, лежащая в основе Squadron, включает серверы Corsair, сетевые адаптеры JetStream NIC и программное обеспечение Aviator. Архитектура поддерживает гибкое масштабирование: от одного сервера до крупных кластеров.
| Компонент/Параметр | Характеристика |
|---|---|
| Базовый элемент | Сервер d-Matrix Corsair с XPU |
| Рак-шкаф (SquadRack) | 8 серверов Corsair |
| Максимальный кластер (Squadron) | До 16 раков (1 024 XPU) |
| Сетевое взаимодействие | JetStream NIC (Arista/Broadcom) |
| Тип охлаждения | Воздушное (Air-cooled) |
| Статус доступности | Общая доступность (GA) для Corsair и SquadRack |
Прорыв в Disaggregated Compute (AFD)
На конференции OCP Global Summit CEO d-Matrix Сид Шет (Sid Sheth) продемонстрировал первую в отрасли работающую на реальном железе систему Attention-FFN Disaggregation (AFD). Эта технология разделяет вычислительную нагрузку: операция Attention выполняется на GPU, а FFN (Feed-Forward Network) — на специализированных XPU d-Matrix, что максимизирует энергоэффективность.
Результаты демонстрации гибридной конфигурации (GPU + Corsair racks) показали впечатляющие метрики:
- Пропускная способность на пользователя: 845 токенов/сек.
- Общая пропускная способность: 20 415 токенов/сек при 64 одновременных пользователях.
Это доказывает жизнеспособность подхода к гетерогенным вычислениям, где специализированные ускорители берут на себя наиболее ресурсоемкие части модели, освобождая GPU для других задач.
Рыночное значение
Запуск Squadron закрывает критическую нишу для приложений, чувствительных к задержкам: высокочастотный трейдинг, кибербезопасность, персональные AI-агенты и генерация кода. Благодаря отказу от жидкостного охлаждения и использованию стандартных серверных стоек, d-Matrix предлагает путь к быстрому развертыванию (time-to-online), недоступный многим конкурентам, требующим сложной инфраструктуры.
Системы уже развернуты в дата-центре d-Matrix в Аризоне для внутренних нужд и начинают поставляться приоритетным клиентам. Демонстрация работы AFD продолжится на стенде компании на OCP Global Summit.
Источник: TechPowerUp ↗