Liquid AI LFM3: Революция 2B-моделей для локального запуска

В мире искусственного интеллекта наблюдается четкий сдвиг парадигмы: от гонки за параметрами к оптимизации эффективности. Компания Liquid AI, известная своими инновациями в области аппаратно-ориентированного поиска архитектуры, официально представила новое поколение своих Liquid Foundation Models — LFM3. Это не просто очередное обновление, а фундаментальный сдвиг в том, как мы можем использовать большие языковые модели (LLM) в повседневных устройствах. Семейство LFM3 состоит из шести моделей класса 2B, построенных на едином базовом каркасе, что позволяет разработчикам выбирать оптимальное решение для задач от обработки текста до мультимодального анализа и принятия решений.

Главное преимущество LFM3 заключается в его доступности. Эти модели спроектированы так, чтобы работать на устройствах с ограниченными ресурсами: смартфонах, ноутбуках и частных серверах. При квантовании до 4-битного формата (Q4_0) модель потребляет всего около 1 ГБ оперативной памяти. Это открывает двери для локального запуска AI-агентов без зависимости от облачных провайдеров, что критически важно для конфиденциальности данных и снижения задержек. В этой статье мы подробно разберем архитектуру LFM3, результаты бенчмарков, сравнение с конкурентами и практические шаги для внедрения этих моделей в ваши проекты.

01Что такое Liquid AI LFM3 и зачем она нужна?

LFM3 (Liquid Foundation Models 3rd generation) — это семейство из шести открытых моделей, каждая из которых специализируется на определенном типе данных или задачи, но все они происходят от одного общего базового ядра LFM3-1.7B-Base. Такой подход позволяет сохранить эффективность обучения и инференса, одновременно покрывая широкий спектр мультимодальных задач. В семейство входят:

• LFM3-1.7B: Текстовая модель, оптимизированная для локальных AI-агентов. Она прошла пост-обучение для интеграции с популярными фреймворками, такими как Hermes Agent, Pi и OpenClaw. Это идеальный выбор для задач, требующих сложного логического вывода и работы с инструментами.
• LFM3-VL-2B: Первая модель LFM с поддержкой видео. Она способна обрабатывать визуальный ввод с частотой 2 кадра в секунду, что делает её эффективной для анализа видеопотоков без перегрузки вычислительных ресурсов.
• LFM3-Audio-2B: Модель для работы со звуком, поддерживающая вход и выход речи на 18 языках. Ключевой особенностью является встроенная поддержка вызова инструментов (tool calling), что позволяет модели не только распознавать речь, но и выполнять действия на основе услышанного.
• LFM3-Omni-2B: Универсальная мультимодальная модель, объединяющая зрение, аудио и язык. Она может принимать ввод в любом из этих форматов и выдавать ответ в виде текста или речи, выступая в роли полноценного голосового ассистента с визуальным пониманием.
• d1-2B и d1-Omni-2B: Модели принятия решений (decision models). Их уникальность в том, что они способны отвечать на множество вопросов за один проход прямой передачи данных (forward pass), что значительно ускоряет обработку сложных запросов.

Все модели доступны для загрузки и могут быть дообучены (fine-tuned) на одной видеокарте, что делает технологию доступной для индивидуальных разработчиков и небольших команд. Поддержка форматов GGUF, MLX, ONNX, FP8 и NVFP4 гарантирует совместимость с большинством современных runtime-окружений.

02Тригибридная архитектура: Как это работает?

Сердцем LFM3 является инновационная тригибридная архитектура, которая сочетает в себе три различных оператора в 24 слоях модели. Это решение было найдено с помощью аппаратно-ориентированного поиска архитектуры (hardware-in-the-loop architecture search), где модель оптимизировалась не только на серверных GPU, но и на мобильных устройствах, таких как Raspberry Pi 5 и NPU Qualcomm Hexagon.

Архитектура включает:

1. 13 слоев с гейтированными короткими свертками (gated short convolutions): Эти слои эффективно захватывают локальные зависимости в последовательности данных. Размер сверточных ядер был увеличен с 3 до 7 токенов, что позволяет модели учитывать более широкий контекст на локальном уровне.
2. 5 слоев внимания с скользящим окном (Sliding-Window Attention, SWA): Окно внимания составляет 256 токенов. Это обеспечивает баланс между скоростью вычислений и способностью модели учитывать соседние контексты.
3. 6 слоев глобального внимания (global attention): Эти слои позволяют модели учитывать зависимости по всей длине последовательности, что критически важно для понимания общей структуры длинных текстов.

Дополнительные архитектурные улучшения включают сигмоидные гейты на уровне голов (head-wise) в механизме внимания, частичное позиционное кодирование RoPE (Rotary Position Embeddings) в глобальных слоях и нормализацию типа "сэндвича" (sandwich norm). Базовая модель была обучена на 22 триллионах токенов, причем последние 3.5 триллиона были посвящены "агентному" обучению (agent-heavy mid-training), что значительно расширило контекстное окно до 256K токенов.

03Обучение и пост-обработка: Путь к агентным навыкам

Процесс обучения LFM3 был многоэтапным и тщательно спланированным. После базового обучения на 22T токенов, команда Liquid AI провела пост-обучение в четыре этапа:

1. Supervised Fine-Tuning (SFT): Первый этап включал обучение на 1.75 триллионах токенов с использованием размеченных данных для улучшения качества генерации текста.
2. Смешанное обучение с подкреплением (Mixed RL): На этом этапе модель обучалась с использованием методов RL, чтобы улучшить способность следовать инструкциям и избегать галлюцинаций.
3. Дистилляция знаний: Шесть специализированных "учителей" были дистиллированы в одну модель. Это позволило LFM3 перенять лучшие качества от более крупных и сложных моделей, не увеличивая при этом количество параметров.
4. Агентное обучение с подкреплением (Agentic RL): Финальный этап был направлен на развитие навыков работы с инструментами. Модель обучалась эффективно использовать внешние инструменты для решения задач, что стало её сильной стороной.

Особое внимание было уделено оптимизации под различные устройства. Если LFM2 оптимизировалась на одном телефоне и одном ноутбуке, то LFM3 была настроена на 14 комбинациях устройств и бэкендов, включая Raspberry Pi 5 и NPU Qualcomm Hexagon. Это гарантирует, что модель будет работать быстро и эффективно на широком спектре аппаратного обеспечения.

04Производительность: LFM3 против конкурентов

Результаты бенчмарков показывают, что LFM3-1.7B демонстрирует выдающиеся результаты, особенно в задачах, связанных с агентами и использованием инструментов. Несмотря на то, что у модели всего 1.73 миллиарда параметров, она превосходит более крупные модели, такие как Qwen3.5-9B, в ряде ключевых метрик.

Агентные задачи и использование инструментов

Это сильнейшая сторона LFM3. На наборе данных WebArena-Verified, который тестирует способность моделей взаимодействовать с веб-интерфейсами, LFM3-1.7B набирает 38.42 балла, в то время как Qwen3.5-9B — только 28.94. На BFCL V4 (Benchmark for Function Calling and Long Context) LFM3 показывает 71.39 против 62.83 у Qwen3.5-9B. Также стоит отметить результат на AutomationBench: 41.29 против 15.10 у Qwen3.5-9B. Эти цифры свидетельствуют о том, что LFM3 значительно лучше справляется с планированием и выполнением сложных многошаговых задач.

Знания и программирование

В задачах, требующих глубоких знаний или написания кода, LFM3 уступает более крупным моделям. На GPQA Diamond (тест на научные знания) LFM3-1.7B набирает 63.37, тогда как Qwen3.5-9B — 80.40. На SWE-bench Verified (тест на исправление багов в коде) результаты также показывают разрыв: 43.40 против 51.20. Однако стоит отметить, что использование инструментов поиска (search tools) может значительно улучшить результаты LFM3. Например, на Humanity’s Last Exam (без инструментов) модель набирает всего 7.17, но с инструментами этот показатель возрастает до 13.90.

Сравнение с другими моделями класса 2B-4B

Давайте сравним LFM3-1.7B с другими популярными моделями малого размера:

Как видно из таблицы, LFM3-1.7B лидирует по среднему баллу и особенно выделяется в задачах, связанных с вызовом функций (BFCL) и веб-агентами (WebArena). При этом она сохраняет конкурентоспособность в общих знаниях, несмотря на меньшее количество параметров.

05Мультимодальные возможности: Зрение, Аудио и Решения

Помимо текстовой модели, семейство LFM3 предлагает мощные решения для мультимодальных задач.

LFM3-VL-2B: Зрение и Видео

Модель LFM3-VL-2B набирает в среднем 71.4 балла по 62 визуальным бенчмаркам. Для сравнения, более крупная Gemma 4 12B набирает 71.7. LFM3-VL-2B демонстрирует выдающиеся результаты в визуальном заземлении (visual grounding) — 77.3 баллов, и понимании графических интерфейсов (GUI understanding) — 83.1 балла. Однако в задачах анализа видео (61.2) и агентных задачах (42.5) она всё ещё уступает более крупным API-моделям. Тем не менее, для локального запуска это один из лучших результатов.

LFM3-Audio-2B: Аудио

Модель показывает высокую точность распознавания речи, достигая 6.2 WER (Word Error Rate) на английском языке. Качество синтезированной речи оценивается в 3.8 UTMOSv2, что является хорошим показателем для моделей такого размера. Поддержка 18 языков делает её универсальным инструментом для глобальных приложений.

LFM3-Omni-2B: Омни-модель

LFM3-Omni-2B набирает 70.1 балл на Daily-Omni, превосходя Qwen2.5-Omni-7B (61.3 балла). Это подтверждает эффективность тригибридной архитектуры в объединении различных модальностей.

Модели принятия решений: d1-2B

Модель d1-2B заменила предыдущую d1-3B, сократив количество параметров на треть. При этом производительность на Decision Bench улучшилась с 83.6 до 85.2. Это доказывает, что оптимизация архитектуры может приводить к росту эффективности, а не только к снижению качества.

06Деплой: Как запустить LFM3 у себя?

Весы моделей доступны на Hugging Face, в Liquid AI Playground и через Liquid API. Документация подробно описывает поддержку форматов GGUF, MLX и ONNX для текстовых и визуальных моделей. Для запуска можно использовать популярные runtime-окружения: llama.cpp, MLX, vLLM, SGLang, Ollama и Transformers.

На устройствах с ограниченной памятью Liquid AI измерила производительность llama.cpp с квантованием Q4_0 и контекстом 32K. Для полного контекста в 128K требуется 1.6 ГБ KV-кэша. Для сравнения, Qwen3.5-4B требует 4.3 ГБ. Это делает LFM3 идеальным выбором для устройств с 4-8 ГБ оперативной памяти.

На серверном уровне, на одной видеокарте NVIDIA B300 с использованием SGLang, LFM3-1.7B способна генерировать 3.6 миллиарда токенов в день при 1024 одновременных запросах. Это высокая пропускная способность, которая позволяет использовать модель в продакшене.

Также стоит отметить возможность специализации. Несколько часов SFT и GRPO на одной видеокарте A100 позволили повысить точность классификации дефектов ветрогенераторов до 67%. Это показывает, что LFM3 легко адаптируется под узкоспециализированные задачи.

07Лицензирование и доступность

LFM3 распространяется под лицензией LFM Open License v1.0. Ключевое условие: бесплатное коммерческое использование доступно для компаний с годовой выручкой до 10 миллионов долларов. Для более крупных компаний предусмотрены коммерческие лицензии. Это делает модель доступной для стартапов и малого бизнеса, которые часто ограничены в бюджете.

Модели можно загрузить с Hugging Face. Для разработчиков из России доступ к Hugging Face может быть затруднен из-за блокировок. Однако, учитывая открытый характер весов и форматов GGUF/ONNX, можно использовать зеркала или локальные репозитории. Также доступна документация и примеры кода, которые помогут быстро начать работу.

08Что это значит на практике

Выпуск Liquid AI LFM3 знаменует собой новый этап в развитии локального искусственного интеллекта. Вот что это означает для разработчиков и бизнеса:

1. Демократизация AI-агентов: Теперь агенты, способные выполнять сложные задачи с использованием инструментов, могут работать на обычных ноутбуках и даже смартфонах. Это снижает барьер для входа в разработку AI-приложений.
2. Конфиденциальность: Локальный запуск означает, что данные не покидают устройство пользователя. Это критически важно для финансовых, медицинских и юридических приложений.
3. Экономическая эффективность: Использование моделей с меньшим количеством параметров снижает затраты на инфраструктуру. Компании могут сократить расходы на облачные API, перейдя на локальный инференс.
4. Гибкость: Тригибридная архитектура и поддержка множества форматов позволяют адаптировать модель под любые аппаратные требования, от Raspberry Pi до мощных серверных GPU.

Несмотря на некоторые слабости в области глубоких знаний и написания кода, LFM3-1.7B является мощным инструментом для агентных задач. Её способность превосходить более крупные модели в использовании инструментов делает её уникальным предложением на рынке. Если вы разрабатываете приложения, требующие быстрого и конфиденциального AI, LFM3 стоит рассмотреть в первую очередь.

Рекомендуем начать с загрузки весов с Hugging Face и тестирования на вашем оборудовании. Документация Liquid AI предоставляет все необходимые инструкции для быстрого старта. Следите за обновлениями и новыми моделями от Liquid AI, так как это направление обещает стать одним из ключевых в ближайшие годы.

Источник: MarkTechPost ↗