Масштаб проекта: 100 000 GPU и $2 млн в одном шкафу
Американская компания Xeal, управляющая сетью из более чем 1 600 точек зарядки электромобилей, объявила о планах развертывания инфраструктуры для Edge AI. Проект предполагает установку до 100 000 графических процессоров Nvidia (архитектуры Hopper или Blackwell Ultra) в специализированных контейнерах, названных Latient Pods. Каждый такой модуль вмещает до 48 GPU, что при текущих рыночных ценах делает стоимость одного шкафа превышающей $2 млн.
Ключевая идея заключается в использовании уже разрешенной и подключенной к электросети, но простаивающей мощности зарядных станций. По данным Xeal, типичные площадки работают лишь на 10% от разрешенной мощности, что позволяет интегрировать вычислительные мощности без сложной процедуры подключения к сетям (grid interconnect), которая часто тормозит строительство новых ЦОД.
Технические характеристики Latient Pods
Контейнеры разработаны для работы в уличных условиях и не требуют подключения к системам водяного охлаждения. Они оснащены собственной системой охлаждения, работают тише 65 дБ (сопоставимо с работой стиральной машины) и защищены корпусом стандарта NEMA 4. Установка занимает всего несколько часов.
| Параметр | Значение / Характеристика |
|---|---|
| Количество GPU в одном Pod | До 48 (Nvidia Hopper или Blackwell Ultra) |
| Общая цель по GPU | 100 000+ устройств |
| Задержка (Latency) | Менее 20 мс (Metro Edge) |
| Уровень шума | < 65 дБ |
| Охлаждение | Автономное, без воды |
| Стоимость оборудования в Pod | ~$2 000 000 (оценка на базе цен 2024 г.) |
Почему это важно: скорость и экономика
Генеральный директор Xeal Никхил Бхардвадж подчеркивает, что такая архитектура позволяет доставлять вычислительные мощности для инференса (вывода моделей ИИ) ближе к пользователю. Расположение узлов в черте городов обеспечивает задержку менее 20 мс, что критически важно для приложений реального времени. Кроме того, владельцы зарядных станций получают дополнительный доход, а стоимость их недвижимости может вырасти до $1 млн при минимальных инвестициях со стороны.
Представители Nvidia также поддержали инициативу, отметив инновационный подход к использованию инфраструктуры. Первый Latient Pod должен выйти в строй до конца текущего года, что станет первым шагом к созданию распределенной сети инференса по всей территории США.
Риски и безопасность
Высокая плотность вычислительной мощности в публичных местах создает серьезные риски. Ранее сообщалось о волне краж кабелей зарядных станций из-за ценности меди. Теперь же под угрозой оказываются шкафы с GPU стоимостью в миллионы долларов. Успех проекта будет зависеть не только от технологической надежности, но и от физической безопасности этих узлов.
Источник: Tom's Hardware ↗