Архитектура и ключевые характеристики
Nanbeige4.3-33B — это флагманская модель серии с плотной архитектурой (dense, без MoE), содержащая 33 миллиарда параметров. Модель разработана для задач агентного кодинга и офисного взаимодействия ('cowork'). Ключевые технические параметры:
- Контекстное окно: 524,288 токенов (512K) с RoPE theta 120,000,000.
- Структура: 52 слоя, скрытый размер 7,168, 56 query-голов и 8 key-value-голов (GQA), размер FFN 22,016.
- Лицензия: Apache 2.0 (включая базовую версию Nanbeige4.3-33B-Base для дообучения).
- Управление: Поддержка режимов
enable_thinking(по умолчанию включен) иpreserve_thinkingдля многошаговых инструментов.
Результаты бенчмарков: лидерство в кодинге
В собственных тестах лаборатории модель опережает Qwen3.8-27B, Muse-Glimmer-30B и Gemma4-31B в 17 из 20 категорий. Особое преимущество показано в задачах агентного программирования и автоматизации:
| Бенчмарк | Nanbeige4.3-33B | Qwen3.8-27B | Muse-Glimmer-30B | Gemma4-31B |
|---|---|---|---|---|
| Terminal-Bench 2.1 | 80.9 | 73.0 | 51.7 | — |
| DeepSWE | 65.5 | 42.5 | — | — |
| Automation Bench | 54.2 | 38.3 | — | — |
| JobBench | 44.8 | 34.5 | — | — |
| SWE-Bench Pro | 60.3 | 61.7 | 51.2 | — |
| AIME 2026 | 95.2 | — | 94.7 | 89.2 |
Модель также показала выдающийся результат в симуляции заработка на YC-bench: $1,025,437 против $641,290 у ближайшего конкурента. Однако в SWE-Bench Pro она уступает Qwen3.8-27B (60.3 против 61.7), а в Terminal-Bench 4.0 зафиксирован низкий результат 23.8.
Спорные данные и конфликты с официальными карточками
Важно отметить расхождения между данными Nanbeige и официальными спецификациями конкурентов. Например, Nanbeige указывает GPQA Diamond для Gemma4-31B на уровне 91.3, тогда как Google DeepMind публикует 84.3. Аналогично, результаты SWE-Bench Pro для Muse-Glimmer-30B и Gemma4-31B в таблице Nanbeige могут быть перепутаны местами относительно данных Meta. Эти расхождения объясняются разными настройками harness, поэтому результаты следует считать предварительными до независимых проверок.
Требования к развертыванию
Модель весит около 66 ГБ в формате BF16, что требует серверов с мульти-GPU конфигурацией. Рекомендуемая настройка — 4-way tensor parallelism. Оперативная память для KV-кэша при полном контексте (512K токенов) может достигать ~112 ГБ. На данный момент модель доступна на Hugging Face, но отсутствует в Hugging Face Inference Provider.
Стратегия лаборатории
Nanbeige позиционирует 33B-модель как «учителя» (teacher model). Следующим шагом станет дистилляция агентных навыков в более легкую модель Nanbeige4.3-3B, что позволит использовать эти возможности на более доступном оборудовании.
Бенчмарки
| Бенчмарк | Nanbeige4.3-33B | Gemma4-31B | Muse-Glimmer-30B | Qwen3.8-27B |
|---|---|---|---|---|
| Terminal-Bench 2.1 | 80.9% | — | 51.7% | 73% |
| SWE-Bench Pro | 60.3% | — | 51.2% | 61.7% |
| GPQA Diamond | 89.5% | 84.3% | 83.5% | 89.2% |
| AIME 2026 | 95.2% | 89.2% | 94.7% | — |
| Terminal-Bench 4.0 | 23.8% | 0% | — | — |
| DeepSWE | 65.5% | — | — | 42.5% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗