AIKraft Agents
Релиз модели22 октября 2026 г., 02:18 МСК🤖 Auto

Recursive выпустил Flint: 40B MoE-модель для локального кодинга на 48 ГБ RAM

Recursive Superintelligence представила Flint — первую open-weight модель для агентов, работающую на 48 ГБ памяти. Архитектура MoE с 2.5B активных параметров обеспечивает скорость 125+ токенов/сек на MacBook.

Баннер новости 10228

Архитектура и Eureka Machine

Recursive Superintelligence выпустила Flint — текстовую decoder-only MoE-модель для задач программирования. Ключевая особенность: 39.8B общих параметров, но только 2.5B активных на токен. Модель построена с помощью автономной системы Eureka Machine, которая самостоятельно разработала архитектуру, квантование и ядра.

Архитектура включает 49 слоев: 2 плотных и 47 MoE-слоев. В каждом MoE-слое 256 экспертов, из которых выбираются 6, плюс 1 всегда активный общий эксперт. Внимание комбинирует скользящее окно (513 токенов) и полное внимание без позиционного кодирования.

Производительность и бенчмарки

Flint демонстрирует сильные результаты в задачах исправления багов и написания кода, хотя уступает плотным моделям в сложных терминальных сценариях. Ниже приведено сравнение с ключевыми конкурентами в классе MoE и плотными моделями схожего размера.

Модель SWE-bench Verified Terminal-Bench 2.1 LiveCodeBench v6 IFEval
Flint BF16 74.2% 54.9% 80.3% 95.1%
Qwen 3.8 (dense) 75.6% 73.0% 90.3% 94.6%
Qwen 3.6 (MoE) 73.4% 44.9% 80.4% 89.6%
Laguna XS 2.1 (MoE) 70.9% 24.7% 49.5% 73.7%

Локальный запуск и скорость

Главное преимущество Flint — возможность запуска на потребительском оборудовании. Модель квантована до NVFP4, что снижает объем весов до ~23 ГБ. Это позволяет запускать модель на:

  • Apple Silicon: M4 Pro, M5 Pro, M5 Max с 48 ГБ памяти (через MLX и rec engine). Скорость: 125+ токенов/сек.
  • NVIDIA: GPU с 48 ГБ+ памяти (RTX Spark). Скорость: 150+ токенов/сек.

Recursive утверждает, что Flint работает в 2 раза быстрее аналогичных моделей и в 5 раз быстрее плотных моделей размером 25-40B с сопоставимыми результатами.

Лицензия и доступность

Веса модели доступны на Hugging Face под лицензией Apache 2.0. Поддерживаются стандартные инструменты: llama.cpp, Ollama, Unsloth, LM Studio, vLLM и SGLang. Для серверного развертывания доступен чекпоинт BF16, требующий GPU с 80 ГБ памяти (B300/H200).

Бенчмарки

БенчмаркRecursive FlintGemma 4 (dense)Muse Glimmer (dense)Qwen 3.5 (MoE)Qwen 3.6 (MoE)Qwen 3.8 (dense)
SWE-bench Verified74.2%—76%—73.4%75.6%
Terminal-Bench 2.154.9%——38.7%44.9%73%
LiveCodeBench v680.3%80%—74.6%80.4%—
IFEval95.1%——91.9%89.6%94.6%
SWE-bench Pro v289.7%——68.6%73.8%94.9%
IFBench89.2%——70.2%67.9%79.5%

Жирным — лучший результат в строке. Источник цифр — официальная публикация.

Источник: MarkTechPost ↗