В мире искусственного интеллекта доминирующим нарративом последних лет стала генеративная способность больших языковых моделей (LLM). Мы привыкли, что ИИ «думает», шаг за шагом генерируя токены, создавая тексты, код или изображения. Однако этот подход, несмотря на свою универсальность, часто оказывается избыточным для задач, требующих мгновенной реакции и четких бинарных решений. Именно здесь на сцену выходит новый подход от компании Liquid AI, которая представила свои открытые модели семейства d1 — d1-3B и d1-omni-600M. Эти модели не пишут тексты. Они не генерируют ответы. Вместо этого они принимают решения, возвращая калиброванные вероятности для заранее заданных вариантов ответа за один проход (forward pass) с нулевым количеством выходных токенов.
Это не просто еще одна оптимизация скорости. Это фундаментальное изменение парадигмы взаимодействия с ИИ для специфических, но критически важных задач: маршрутизации запросов, модерации контента, классификации намерений и систем безопасности (guardrails) для агентов. В этой статье мы подробно разберем, как устроены эти модели, почему они работают так быстро, как они сравниваются с существующими аналогами и как вы можете запустить их локально, в том числе на edge-устройствах, доступных разработчикам из России.
01Что такое модель принятия решений (Decision Model)?
Чтобы понять ценность d1, нужно сначала осознать ограничения традиционных генеративных LLM. Когда вы отправляете запрос в обычную модель, она генерирует ответ токен за токеном. Ваш код должен затем парсить этот текст, извлекать нужные данные, проверять их на валидность и преобразовывать в структурированный формат. Этот процесс занимает время, вычислительные ресурсы и часто подвержен ошибкам из-за «галлюцинаций» или неструктурированного вывода.
Модель принятия решений (Decision Model) работает иначе. Она принимает состояние (state) и набор именованных вопросов. Прочитав их один раз, она возвращает вероятность для каждого разрешенного варианта ответа. Это похоже на то, как если бы вы спросили у эксперта не «расскажи все, что ты знаешь о проблеме», а «какова вероятность того, что это спам?», «к какой категории относится этот запрос?» и «насколько это срочно?». Эксперт сразу дает вам четкие цифры, а не эссе.
Каждый ответ от модели d1 содержит метку output_tokens: 0. Это ключевая особенность. Модель не пишет текст. Она классифицирует. Liquid AI рекомендует использовать d1 для маршрутизации, модерации, классификации намерений, переупорядочивания (reranking), оценки качества ответов других LLM (LLM-as-a-judge), создания защитных барьеров для агентов и визуального контроля качества. Важно подчеркнуть: ни одна из этих моделей не является чат-ботом. Они не ведут диалог.
02Архитектура и обучение: Как созданы d1-3B и d1-omni-600M
Обе модели являются частью семейства LFM (Liquid Foundation Models), но имеют различную архитектуру, адаптированную под свои задачи. Давайте разберем каждую из них отдельно.
d1-3B: Визуально-языковой классификатор
Модель d1-3B имеет 3,12 миллиарда параметров. Она начинается с архитектуры LFM2.5-VL-3B, которая является decoder-only моделью для обработки зрения и языка. Liquid AI не создавала архитектуру с нуля, а применила интересную технику слияния весов: они усреднили веса модели LFM2.5-2.6B с текстовым ядром этой же модели. Затем последовало тонкое дообучение (fine-tuning) нескольких контрольных точек с разными семенами (seeds) и смесями данных, после чего веса были снова слиты.
В основе визуальной части лежит энкодер SigLIP2 NaFlex объемом 400 миллионов параметров. Контекстное окно модели составляет 32 768 токенов. Liquid AI отмечает, что для достижения высоких результатов важнее были не сложные технические трюки, а качество данных: длинные входные данные, перемешанные варианты ответов и устранение «коротких путей» в данных (data shortcuts), когда модель могла угадывать ответ, опираясь на статистические аномалии, а не на смысл.

d1-omni-600M: Мультимодальный энкодер для аудио и видео
Модель d1-omni-600M значительно меньше — всего 587 миллионов параметров. Она построена на базе LFM2.5-Encoder-350M, которая является двунаправленным энкодером (bidirectional encoder). Эта архитектура состоит из трех основных частей: 381-миллионного общего ствола (shared trunk) и головы принятия решений, 94-миллионного визуального энкодера и 112-миллионного аудиоэнкодера. Аудиоэнкодер построен на базе 17-слойной архитектуры FastConformer.
Контекстное окно d1-omni-600M составляет 16 384 токенов. Важное ограничение: аудиоклипы ограничены 30 секундами. Кроме того, запрос может содержать либо изображения, либо аудио, но не то и другое одновременно. Обучение аудио происходило только на запросах «говорящий-ассистент» на английском языке. Это ранняя исследовательская версия, поэтому официальных показателей задержки (latency) для нее пока не опубликовано, но ее компактность открывает двери для развертывания на устройствах с ограниченными ресурсами.
03Производительность и бенчмарки: Где d1 лидирует
Оценка моделей принятия решений требует специфических метрик. Liquid AI использует Decision Index v0.2.1 для оценки способности моделей правильно распределять вероятности по вариантам ответа. На этом индексе d1-3B набирает 48,57 балла. Это лучший результат среди всех моделей с количеством параметров менее 10 миллиардов. Для сравнения, Decider 35B-A3B набирает 47,11, а единственной моделью, обгоняющей d1-3B, является Winnow-12B с результатом 50,02. Стоит отметить, что Liquid AI проводила оценку самостоятельно, поэтому эти результаты не являются официальными submissions на публичные лидерборды.
Если посмотреть на общие текстовые бенчмарки, d1-3B в среднем набирает 82,9 балла по семи публичным тестам, что лучше, чем у Decider 4B (81,1). d1-omni-600M набирает в среднем 78,4, демонстрируя выдающиеся результаты на датасетах Civil Comments (95,8) и PAWS-X (79,5). В визуальных задачах d1-3B набирает в среднем 74,1 по 11 тестам, немного превосходя свою базовую модель (73,9). Liquid AI признает, что бенчмарки для аудио-решений остаются открытой проблемой в индустрии.
04Скорость работы: Миллисекунды на NVIDIA и Jetson
Главное преимущество d1 — скорость. Liquid AI измерила сквозную задержку (end-to-end latency) при обработке одного запроса за раз. Результаты впечатляют:
- RTX 4090: Один вопрос обрабатывается за 8 мс. При использовании оптимизации
model.compile(mode="reduce-overhead")это достигается за счет снижения накладных расходов. Без этой оптимизации время увеличивается до 16 мс. - AMD MI325X: 9 мс на вопрос.
- Jetson AGX Thor: 16 мс на вопрос. Это критически важно для edge-вычислений.
- Jetson AGX Orin: 26 мс на вопрос.
- Jetson Orin Nano: 50 мс на вопрос.
Интересный факт: на Jetson AGX Thor обработка трех вопросов в рамках одного состояния занимает 20 мс, тогда как один вопрос — 16 мс. Это показывает, что модель эффективно масштабируется по количеству вопросов внутри одного контекста, добавляя минимальные накладные расходы.

05Практическое применение: Где d1 незаменим
Теория — это хорошо, но как эти модели работают в реальных сценариях? Liquid AI выделяет несколько ключевых областей применения.
1. Поддержка клиентов и триаж тикетов
Вместо того чтобы отправлять запрос клиента в тяжелую LLM для анализа, вы можете использовать d1-3B. Один вызов модели может одновременно ответить на вопрос «имеет ли право клиент на возврат?» (да/нет), выбрать команду, которая должна обработать тикет, и оценить срочность проблемы. Все это за один проход, с нулевыми токенами вывода, которые нужно парсить. Это снижает нагрузку на инфраструктуру и ускоряет реакцию в разы.
2. Визуальный контроль качества и модерация на edge
На устройстве Jetson AGX Thor d1-3B может обработать изображение размером 384 пикселя за 35 мс. Это позволяет запускать модерацию контента или контроль жестов в реальном времени с видеопотока. Liquid AI демонстрировала это в Open d1 Arcade, где модель обрабатывала кадры с живой камеры для модерации и управления жестами. Это открывает возможности для умных камер, систем безопасности и интерактивных инсталляций без необходимости отправки видео в облако.
3. Маршрутизация голосовых команд на малых устройствах
Модель d1-omni-600M может принимать до 30 секунд речи вместе с текстом и напрямую возвращать намерение или тему говорящего. Это идеально для умных колонок, IoT-устройств и голосовых ассистентов, где важна скорость и точность распознавания намерения, а не генерация длинных ответов. Карточка модели явно указывает маршрутизацию голосовых команд и guardrails для агентов как рекомендованные сценарии использования.
06Сравнение с другими открытыми моделями принятия решений
На рынке есть и другие игроки в нише decision models. Давайте сравним d1 с ключевыми конкурентами: Decider 4B, Decider 35B-A3B и Winnow-12B.
| Характеристика | d1-3B | d1-omni-600M | Decider 4B | Decider 35B-A3B | Winnow-12B |
|---|---|---|---|---|---|
| Разработчик | Liquid AI | Liquid AI | Mapika | Mapika | EldanRing |
| Параметры | 3.12B | 587M | 4.2B | 34.7B (3B active) | 12B |
| Базовая модель | LFM2.5-VL-3B | LFM2.5-Encoder-350M | Qwen3.5-4B-Base | Qwen3.5-35B-A3B-Base | Gemma 4 12B IT |
| Входы | Текст, изображения | Текст + изображение ИЛИ текст + аудио | Текст | Текст | Текст, изображения |
| Контекст | 32,768 | 16,384 | 32K-токенов | 32K-токенов | 65,536 (Q8) |
| Decision Index v0.2.1 | 48.57 | 15.95 | 40.70 | 47.11 | 50.02 |
| Лицензия | LFM Open v1.0 | LFM Open v1.0 | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| Задержка (примерно) | 8 мс/вопрос (RTX 4090) | Не опубликовано | 5.2 мс/3 вопроса (B300) | 47 мс/3 вопроса (B300) | 143 мс/4 вопроса (RTX 5070 Ti) |
Как видно из таблицы, d1-3B занимает сильную позицию по соотношению производительности и размера. d1-omni-600M, несмотря на меньший индекс (из-за мультимодальности и меньшего размера), предлагает уникальную возможность работы с аудио и видео в компактном формате. Лицензия LFM Open v1.0, в отличие от Apache 2.0 у конкурентов, имеет ограничения по обороту, что стоит учитывать при выборе.
07Как запустить d1 локально: Пошаговая инструкция
Запуск моделей d1 доступен для разработчиков через Hugging Face. Оба чекпоинта можно загрузить через библиотеку Transformers. Также поддерживается llama.cpp с первого дня публикации, что позволяет запускать их на CPU и мобильных устройствах.

Для запуска d1-3B требуется версия transformers>=5.14 и флаг trust_remote_code=True. Для d1-omni-600M требуется transformers>=5.15. Обе модели предоставляют два основных метода:
system_one(state, questions)— для обработки одного состояния.system_one_batch— для пакетной обработки запросов.
Вы можете попробовать десять демо-версий, управляемых камерой, в пространстве Open d1 Arcade на Hugging Face. Для пользователей NVIDIA доступны руководства от Jetson AI Lab. Если вы находитесь в России, вы можете скачать модели с Hugging Face, используя прокси или зеркала, и запустить их локально на своих GPU. Поддержка llama.cpp позволяет также запускать их на CPU, хотя скорость будет ниже, чем на NVIDIA.
08Что это значит на практике
Появление моделей d1 от Liquid AI знаменует собой сдвиг от «генерации всего подряд» к «точному и быстрому решению конкретных задач». В эпоху, когда компании ищут способы снизить стоимость инференса и повысить скорость отклика своих AI-продуктов, decision models становятся критически важным инструментом.
Для разработчиков из России это особенно актуально. Ограничения на доступ к некоторым облачным API и высокая стоимость вычислений делают локальный запуск моделей все более привлекательным. d1-3B и d1-omni-600M, будучи открытыми и относительно легкими, позволяют развертывать мощные системы классификации и маршрутизации на собственном оборудовании, включая edge-устройства Jetson, которые доступны на российском рынке.
Использование d1 для модерации контента, триажа тикетов и управления агентами позволяет сократить время отклика с сотен миллисекунд до единиц миллисекунд, одновременно снижая нагрузку на более тяжелые LLM. Это не замена большим языковым моделям, а мощное дополнение к ним, создающее эффективный слой принятия решений перед генеративным этапом.
Мы рекомендуем разработчикам, работающим в области агентов, модерации и классификации, протестировать d1-3B и d1-omni-600M. Их открытость, производительность и мультимодальность делают их одними из самых перспективных инструментов в нише decision models на сегодняшний день. Попробуйте запустить их в своих проектах и оцените, как нулевые токены вывода могут упростить вашу архитектуру.
Источник: MarkTechPost ↗
