Архитектура и спецификации
Inkling 2 Small — это разреженная модель Mixture-of-Experts (MoE) с 594 миллиардами общих параметров, из которых в каждом шаге активны только 17 миллиардов. Модель поддерживает контекстное окно до 1 миллиона токенов и работает с текстом и изображениями (аудио пока не поддерживается). Архитектура включает 48-слойный декодер, где каждый токен маршрутизируется к 8 из 384 экспертов, а визуальный энкодер (292M параметров) использует патчи 20x20 пикселей.
Обучение и вычислительные затраты
Предобучение состояло из четырех этапов на кластерах NVIDIA GB300 NVL72. Общий объем данных составил более 12.4 триллионов токенов. Финальный этап RL (обучение с подкреплением) занял 9 дней на 2048 GPU, потребовав более 4 × 10²³ FLOPs. Примечательно, что 65% токенов в RL-фазе были связаны с задачами программирования, что выделяет модель как специализированного агента для кодинга.
Результаты бенчмарков
Модель демонстрирует выдающиеся результаты в задачах программирования и восприятия, но уступает в работе с терминалом. Индекс Artificial Analysis Intelligence Index вырос с 13 (у Inkling Small) до 31, что выводит модель на 4-е место в своем ценовом классе.
| Бенчмарк | Inkling 2 Small | Лучший результат (конкурент) | Примечание |
|---|---|---|---|
| SWE-Bench Pro v2 (Hard) | 86.3% | — | Второе место после Kimi K3 |
| PerceptionBench | 64.7% | 58.5% (Kimi K3) | Превосходство в визуальном анализе |
| EnterpriseBench-CoreCraft | 71.8% | 46.7% (GLM-5.3-Flash) | Значительный отрыв от GLM |
| Terminal-Bench 4.0 | 13.1% | 33.8% (DeepSeek-V4.1) | Слабое место модели |
| AA Intelligence Index | 31 | 33 (DeepSeek-V4.1) | Ранг #4 в классе |
Безопасность и лицензирование
Thinking Machines Lab применила политику «безопасного пути» к открытым весам. На старте веса закрыты, но ожидается релиз под лицензией Apache 2.0 на следующей неделе после внешнего тестирования безопасности. Внутренний показатель «нежелательного поведения» снизился с 66.8 у предыдущей версии до 14.9 благодаря добавлению награды за выравнивание и самодистилляции.
Доступность и стоимость
Модель доступна через API платформы Tinker. Стоимость составляет $0.30 за 1M входных токенов и $1.00 за 1M выходных токенов, что дешевле Inkling Small ($1.20 за выход). Поддерживаются форматы квантования MXFP8 и NVFP4, что оптимизирует использование памяти при инференсе.
Бенчмарки
| Бенчмарк | Inkling 2 Small | DeepSeek-V4.1-Flash-1017 | GLM-5.3-Flash | Kimi K3 |
|---|---|---|---|---|
| Terminal-Bench 4.0 | 13.1% | — | 32.8% | — |
| PerceptionBench | 64.7% | — | — | 58.5% |
| EnterpriseBench-CoreCraft | 71.8% | — | 46.7% | — |
| Terminal-Bench 2.1 | 85.1% | 90.6% | 84.3% | — |
| DeepSWE v1.1 | 72.1% | 74.2% | 63.4% | — |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗