Суть открытия: «Отпечаток» Blackwell в весах моделей
Независимая исследовательская группа UnemploymentLabs провела статистический анализ открытых весов (open-weight) китайских языковых моделей. Выявлена высокая корреляция между распределением значений весов в моделях DeepSeek V4, Kimi K3.1, MiniMax-M3 и Ling-3.1-Flash с результатами симуляции инициализации на архитектуре Nvidia Blackwell. Это позволяет с высокой долей вероятности утверждать, что для обучения использовалось именно это оборудование, несмотря на экспортные ограничения США.
Методология: Как работает «цифровой след»
Метод основан на специфике работы библиотеки cuRAND и распределении вычислений по шейдерным модулям (SM). При инициализации весов Large Language Models значения генерируются псевдослучайно, но с фиксированным сидом. Ключевая особенность — количество потоков на один SM, которое жестко оптимизировано под конкретное железо. Исследователи воспроизвели этот процесс, меняя параметры SM, и обнаружили, что только конфигурация, соответствующая Blackwell, дает точное совпадение с реальными весами китайских моделей.
Технические детали: Hopper vs Blackwell
Разные поколения GPU Nvidia имеют разное количество шейдерных модулей, что создает уникальный паттерн при распределении вычислений. Анализ позволил не только определить семейство чипов, но и приблизительно оценить количество использованных карт. Ниже приведено сравнение характеристик, на которых базируется этот метод идентификации:
| Семейство GPU | Количество SM (Shading Modules) | Потоки на SM (при инициализации) | Модели с подтвержденным использованием |
|---|---|---|---|
| Nvidia Hopper (H100/H800) | 132 | 2048 | — |
| Nvidia Blackwell B-серия | 148 | 2048 | DeepSeek V4, Kimi K3.1 |
| Nvidia Blackwell GB-серия | 152 | 2048 | MiniMax-M3, Ling-3.1-Flash |
Исключение альтернатив: почему это не AMD
Критически важным этапом стало исключение использования чипов AMD, таких как MI300X. Исследователи проверили возможность эмуляции архитектуры AMD через программный стек, имитирующий группы из 148 или 152 шейдеров. Анализ реальных значений весов показал, что паттерны AMD не совпадают с наблюдаемыми в моделях. Это подтверждает, что использовался именно стек CUDA и железо Nvidia, а не программная обманка.
Юридические и рыночные последствия
Важно отметить: сам факт использования оборудования не является нарушением закона на данный момент. Китайским компаниям разрешено арендовать мощности за рубежом. Примером служит недавняя сделка Tencent с Oracle, где инфраструктура предоставляется легально. Однако метод UnemploymentLabs вскрывает «серый» канал доступа к Blackwell, который ранее считался закрытым. Это создает прецедент: теперь можно дистанционно, по анализу кода, выявлять нарушения экспортных ограничений, если производитель не скрывает архитектуру инициализации.
Источник: Tom's Hardware ↗
