AIKraft Agents
Инструменты13 ноября 2026 г., 01:45 МСК🤖 Auto

Claude Code заблокирован: бенчмарки Qwen и DeepSeek на DGX Spark

После блокировки аккаунта в Anthropic автор перешел на локальные модели Qwen 3.8 Flash Next и DeepSeek V4.1 на железе NVIDIA DGX Spark. Сравнение производительности и качества кода.

Баннер новости 11827

Контекст: переход на локальные LLM

1 ноября 2026 года доступ к Claude Code был ограничен для ряда пользователей из РФ. Автор, не желая проходить верификацию по паспорту, перешел на локальные open-source модели. В качестве аппаратной базы использовались серверы NVIDIA DGX Spark, выделенные работодателем. Для развертывания применялись Ansible-плейбуки, а подготовка инфраструктуры занимала около одного рабочего дня.

Конфигурация эксперимента

Сравнение проводилось между двумя конфигурациями:

  • Qwen 3.8 Flash Next: 1 × DGX Spark, квантизация по рецепту TensorFold, контекст 256K.
  • DeepSeek V4.1-Flash-1017: 2 × DGX Spark, квантизация EXL3 (ExLlamaV3), контекст 512K.

Бенчмарки: скорость и задержки

Методика включала 10 замеров на контекстах от 2K до 128K токенов. Профиль — code, 256 токенов на выходе, temperature 0. Кэш префикса исключался случайным salt в начале промпта.

Qwen 3.8 Flash Next (1 GPU)

КонтекстTPS p50 (min-max)TTFT p50, сPrefill, ток/с
2K80.2 (67.0–87.0)0.942256
8K74.0 (60.2–89.4)3.292515
32K74.8 (35.4–89.3)13.052514
64K70.7 (33.7–89.6)26.902438
128K72.6 (58.5–86.5)56.942299

DeepSeek V4.1-Flash-1017 (2 GPU)

КонтекстTPS p50 (min-max)TTFT p50, сPrefill, ток/с
2K109.4 (83.2–117.1)1.251693
8K107.7 (82.6–117.8)3.902133
32K105.2 (89.7–118.0)14.542262
64K106.0 (90.3–117.2)35.511848
128K98.9 (72.1–116.4)73.011793

Анализ результатов

Нормировка на одно устройство показывает, что Qwen выдает ~70–80 ток/с на GPU, тогда как DeepSeek — ~49–55 ток/с на GPU. Однако DeepSeek на двух картах работает в 1,36–1,5 раза быстрее Qwen на одной, но не удваивает скорость. Ключевое отличие — в prefill: Qwen обрабатывает промпт быстрее (2,3–2,5 тыс. ток/с против 1,7–2,3 тыс. у DeepSeek), что критично при холодном старте длинных контекстов.

Рабочий процесс: планирование и имплементация

Автор использует гибридный подход: для планирования сложных задач запускаются обе модели с высоким уровнем reasoning (xhigh/high). В большинстве случаев DeepSeek предлагал более полные планы, которые Qwen признавал лучшими. Имплементация поручалась DeepSeek с использованием субагентов для разведки и написания кода, с обязательным коммитом на каждый шаг для последующего ревью.

Источник: Habr ↗