Архитектура и эффективность
Модель LFM2.5-24B-A2B от LiquidAI использует архитектуру MoE (Mixture of Experts) с 40 слоями и 64 экспертами, где на каждом шаге активируется только 4 эксперта. Это обеспечивает работу с 2 млрд активных параметров на токен, что делает инференс крайне дешевым. Контекстное окно увеличено до 131K токенов, а словарь расширен с 65K до 128K токенов для лучшей поддержки не-латинских языков. Модель обучена на ~33 трлн токенов и специализируется на рассуждениях (reasoning) и использовании инструментов.
Бенчмарки: Агенты против больших моделей
LFM2.5-24B-A2B демонстрирует выдающиеся результаты в задачах использования инструментов (tool-use) и агентных сценариях, превосходя более крупные модели. Ниже приведено сравнение ключевых метрик с конкурентами (Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it, Nemotron-3.5-Lightning):
| Бенчмарк | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning |
|---|---|---|---|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.79 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
Модель лидирует в AutomationBench (более чем в 3 раза лучше следующего конкурента) и IFEval. Однако в задачах, требующих глубоких знаний (GPQA Diamond, HLE) и сложного кодинга (SWE-Bench), более крупные модели пока сохраняют преимущество.
Скорость инференса: Edge и GPU
Оптимизация архитектуры позволяет запускать модель на устройствах без облака. На Apple M5 Max скорость составляет 184 токена/с, что на 1.7x быстрее ближайших конкурентов. На одном GPU NVIDIA B300 модель генерирует до 21 000 токенов в секунду при высокой конкурентности. Поддержка доступна в llama.cpp, MLX, vLLM, SGLang и ONNX.
Как запустить локального агента
Модель доступна как open-weight на Hugging Face. Для запуска в агентных фреймворках (Hermes Agent, OpenClaw, Pi) рекомендуется использовать OpenAI-compatible бэкенд. Пример конфигурации для Hermes Agent:
hermes config set model.base_url http://localhost:8080/v1hermes config set model.context_length 131072hermes config set agent.tool_use_enforcement true
Порты для разных бэкендов: llama.cpp/MLX — 8080, vLLM — 8000, SGLang — 30000, LM Studio — 1234.
Бенчмарки
| Бенчмарк | LFM2.5-24B-A2B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) | Qwen3.6-35B-A3B |
|---|---|---|---|---|
| SWE-Bench Verified (OpenCode) | 51% | 25.8% | 53.4% | 66.2% |
| GPQA Diamond | 74.42% | 74.9% | 72.42% | 83.69% |
| LiveClaw | 48.09% | 41.25% | 37.72% | 38.19% |
| ToolSandbox | 80.71% | 72.09% | 75.13% | 75.02% |
| BFCLv4 | 65.01% | 57.09% | 53.78% | 65% |
| IFEval | 96.75% | 92% | 94.19% | 93.06% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: Hugging Face blog ↗