Суть релиза: эффективность важнее масштаба
Компания webAI представила TwIL-8B — плотную (dense) модель с 8.79 млрд параметров, предназначенную для сложных задач рассуждения (reasoning) в математике, программировании и следовании инструкциям. В отличие от тренда на увеличение параметров, разработчики сделали ставку на оптимизацию стоимости вычислений. Модель является результатом постобучения (post-training) на базе IBM Granite 4.2 8B.
Ключевое преимущество TwIL-8B — компактность. Версия в квантованном формате Q4_K_M весит всего 4.98 GiB, что позволяет запускать её на CPU или видеокартах с небольшим объемом VRAM. При этом модель сохраняет контекстное окно в 131,072 токенов, унаследованное от базовой модели.
Архитектура и два режима работы
TwIL-8B имеет архитектуру decoder-only с 40 слоями, скрытым размером 4096 и 32 головами внимания (из них 8 KV-голов). Модель генерирует только текстовые ответы на английском языке, предваряя их блоком <think> для логических выводов.
Разработчики выпустили две вариации модели, использующие один и тот же токенizer:
- Balanced (сбалансированная): Дефолтная версия, генерирующая более короткие цепочки рассуждений. Оптимизирована для скорости и экономии ресурсов.
- Verbose (развернутая): Создана с помощью RL с подкреплением, учитывающим длину. Генерирует длинные цепочки мыслей, что повышает точность на сложных олимпиадных задачах, но требует больше вычислений.
Результаты бенчмарков: математика против знаний
TwIL-8B демонстрирует выдающиеся результаты в специализированных задачах, но уступает более крупным конкурентам в общих знаниях. Все метрики основаны на self-reported данных (pass@1 с включенным мышлением).
| Метрика | TwIL-8B | Qwen3.5-9B | Gemma 4 31B |
|---|---|---|---|
| MATH-500 (Математика) | 98.2 (Лидер) | 96.6 | 87.9 |
| AIME 2026 (Олимпиадная математика) | 88.3 | 92.5 | 89.2 |
| LiveCodeBench (Код, †verbose) | 81.6 | 65.6 | 80.0 |
| IFBench (Инструкции, †verbose) | 74.4 | 64.5 | — |
| GPQA Diamond (Научные знания) | 70.2 | 81.7 | 84.3 |
| MMLU-Pro (Общие знания, †verbose) | 76.5 | 82.5 | 85.2 |
На AIME 2026 TwIL-8B показывает 88.3%, уступая Qwen3.5-9B (92.5%) и Gemma 4 31B (89.2%). Однако в коде и инструкциях она превосходит Qwen3.5-9B. Слабое место модели — общие знания: по GPQA Diamond она отстает от Qwen3.5-9B на 11.5 пункта.
Эффективность рассуждений
Одной из главных фишек TwIL-8B является экономия токенов. На тесте AIME 2026 модель использует в среднем 19.5k токенов на задачу, тогда как Qwen3.5-9B — 31.2k. Это экономия 38% при потере всего 4.2 балла точности. Для сравнения, передовые модели уровня GPT-5.5 используют около 5k токенов, но TwIL-8B демонстрирует, что локальные модели могут быть значительно эффективнее своих облачных аналогов в нишевых задачах.
Как запустить и лицензия
Веса модели доступны на Hugging Face под лицензией webAI Non-Commercial 1.0 (только для некоммерческого использования). Для локального запуска через llama.cpp доступны сборки GGUF:
- Q4_K_M: 4.98 GiB (обе вариации).
- Q8_0: 8.70 GiB (только verbose).
- F16: 16.38 GiB (только verbose).
Разработчики рекомендуют задавать max_new_tokens=32768, так как ограничение бюджета генерации критически снижает качество рассуждений. Модель пока не доступна на хостингах инференса, но легко интегрируется через стандартные библиотеки Python.
Бенчмарки
| Бенчмарк | TwIL-8B | Gemma 4 31B | Qwen3.5-9B |
|---|---|---|---|
| MATH-500 | 98.2% | 87.9% | 96.6% |
| AIME 2026 | 88.3% | 89.2% | 92.5% |
| LiveCodeBench | 81.6% | 80% | 65.6% |
| GPQA Diamond | 70.2% | 84.3% | 81.7% |
| MMLU-Pro | 76.5% | 85.2% | 82.5% |
| IFBench | 74.4% | — | 64.5% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗