Обход санкций и архитектура обучения
Согласно отчету The Information, компания Moonshot AI успешно использовала графические процессоры Nvidia Blackwell для обучения своей передовой языковой модели Kimi K3. Это стало возможным благодаря обходу как американских экспортных ограничений, так и китайских правил импорта. Поскольку легально доступные чипы Blackwell крайне дефицитны, Moonshot пришлось объединять несколько серверов с восемью чипами Blackwell (GB200) в кластеры, распределенные по разным дата-центрам, чтобы собрать достаточную вычислительную мощность.
Сравнение с отечественными решениями
Источники в китайской IT-индустрии отмечают, что внутренние китайские ускорители ИИ отстают от решений Nvidia на одно-два поколения и имеют очереди на поставки в несколько месяцев. Использование Blackwell позволило Moonshot запустить новую гонку вооружений в сфере ИИ в Китае, так как обучение моделей уровня frontier на отечественных чипах пока затруднено или невозможно.
| Параметр | Для обучения (Training) | Для инференса (Inference) |
|---|---|---|
| Используемое оборудование | Nvidia Blackwell (GB200/GB300) | Nvidia HGX H20 |
| Статус чипа | Запрещен к экспорту в КНР | Легален для продажи в Китае |
| Способ доступа | Аренда, обход санкций, кластеризация | Прямая покупка и использование |
| Требования к мощности | Объединение серверов по 8 чипов | Минимум 64 GPU H20 |
Проблема инференса и открытые веса
Для работы с моделью Kimi K3 (инференса) Moonshot использует чипы H20, которые не подпадают под блокировки. Однако спрос на модель привел к нехватке вычислительных мощностей: компания рекомендует конфигурации минимум из 64 GPU H20, и клиенты уже стоят в списках ожидания. Ситуация немного смягчилась после того, как Moonshot выпустила веса модели Kimi K3 в открытый доступ, позволив другим провайдерам хостить инференс.
Правовые риски и расследования
Директор Белого дома Майкл Крациос заявил, что Moonshot не только приобрела серверы с GB300, но и получила доступ к ним через серверы в Таиланде. Хотя покупка чипов незаконна, их аренда через третьи страны долгое время оставалась «серой зоной». Однако новый законопроект Remote Access Security Act, предлагаемый в США, планирует приравнять удаленный доступ к чипам к экспорту, что может закрыть эту лазейку. Министерство торговли США уже начало формальное расследование деятельности китайских фирм, использующих передовые американские GPU.
Источник: Tom's Hardware ↗