В мире искусственного интеллекта доминируют большие языковые модели (LLM), которые генерируют текст токен за токеном. Этот подход, безусловно, революционен для создания контента, написания кода и сложных рассуждений, но он часто оказывается избыточным и слишком медленным для задач, требующих мгновенного ответа. Представьте себе сценарий, где нужно классифицировать намерение пользователя, определить токсичность комментария или распознать объект на изображении в реальном времени. Здесь генеративные модели проигрывают по скорости и энергоэффективности. Именно на этом рынке появляется новый игрок — LiquidAI, которая предлагает альтернативную парадигму: модели принятия решений (decision models). Сегодня мы подробно разберем их новые открытые модели семейства d1, которые обещают изменить подход к развертыванию ИИ на edge-устройствах.
Компания LiquidAI анонсировала релиз двух моделей: d1-3B и экспериментальной d1-omni-600M. Эти модели не генерируют текст. Вместо этого они выполняют один прямой проход (forward pass) и выдают структурированный ответ. Это позволяет достигать беспрецедентной скорости: на NVIDIA Jetson AGX Thor модель отвечает на вопрос за 16 миллисекунд. Для сравнения, это в сотни раз быстрее, чем стандартные LLM. В этой статье мы подробно рассмотрим архитектуру этих моделей, результаты их тестирования, практические примеры использования и то, как они вписываются в экосистему российского и глобального рынка ИИ.
01Что такое модели принятия решений (Decision Models)?
Чтобы понять ценность d1, нужно осознать фундаментальное отличие от традиционных LLM. Генеративные модели, такие как GPT-4 или Llama, работают как «автодополнение» в масштабе вселенной: они предсказывают следующее слово, затем следующее, и так далее, пока не достигнут предела длины или не получат стоп-сигнал. Этот процесс требует множества итераций вычислений, что создает задержку (latency) и потребляет много энергии.
Модели принятия решений от LiquidAI, построенные на базе их Liquid Foundation Models (LFM), работают иначе. Они не генерируют токены. Вместо этого они принимают входные данные (текст, изображение или аудио) и через один проход нейронной сети выдают готовое решение. Это похоже на разницу между тем, как человек читает письмо и пишет ответ (генерация), и тем, как он смотрит на светофор и нажимает на тормоз (решение). Второе происходит мгновенно и требует меньше когнитивных ресурсов.
02Архитектура моделей d1-3B и d1-omni-600M
Семейство d1 состоит из двух моделей, которые, несмотря на общую цель, построены на совершенно разных архитектурных подходах. Это позволяет разработчикам выбирать инструмент под конкретные задачи и ограничения оборудования.
d1-3B: Мощный мультимодальный классификатор
Модель d1-3B обучена на базе LFM2.5-VL-3B, которая является моделью с архитектурой decoder-only (только декодер). Это та же базовая архитектура, что лежит в основе большинства современных больших языковых моделей, но адаптированная для задач классификации. d1-3B поддерживает работу с текстом и изображениями. Она способна принимать на вход текстовый запрос и визуальный контекст, после чего выдает структурированный ответ, такой как категория, оценка или метка.
Размер в 3 миллиарда параметров делает эту модель достаточно компактной для развертывания на мощных edge-устройствах, таких как NVIDIA Jetson, но при этом сохраняет высокую точность. В бенчмарках d1-3B показала результат 48.57 на Decision Index 0.2.1, опередив все модели размером до 9B, а также более крупную модель Decider 35B-A3B (47.11). Это доказывает, что качество принятия решений не всегда линейно зависит от количества параметров, если архитектура оптимизирована под задачу.
d1-omni-600M: Экспериментальный универсальный энкодер
Вторая модель, d1-omni-600M, представляет собой экспериментальный релиз, который демонстрирует возможности более компактного подхода. Она обучена на базе LFM2.5-Encoder-350M, которая является двунаправленным энкодером (bidirectional encoder). В отличие от decoder-only архитектур, энкодеры часто лучше справляются с пониманием контекста и классификацией, так как видят весь входной序列 одновременно.
Ключевая особенность d1-omni-600M — поддержка трех модальностей: текста, изображений и аудио. Модель добавляет энкодеры для зрения и звука, что позволяет ей обрабатывать комбинации «текст + изображение» или «текст + аудио». При этом размер модели составляет всего 600 миллионов параметров, что в четыре раза меньше, чем у d1-3B. Это делает её идеальной для устройств с жесткими ограничениями по памяти и вычислительной мощности. На данный момент модель находится в стадии раннего исследовательского релиза и продолжает развиваться.
03Результаты бенчмарков: скорость и точность
LiquidAI провела обширное тестирование своих моделей на семи публичных наборах данных, охватывающих понимание прочитанного (SQuAD 2.0), обнаружение токсичности (Civil Comments), классификацию намерений (MASSIVE intent), медицинский QA (PubMedQA), логические вопросы (BoolQ), кросс-лингвистическое понимание (XNLI) и обнаружение паразитных предложений (PAWS-X).
Результаты демонстрируют высокую эффективность обеих моделей:
- d1-3B достигла среднего балла 82.9, что является лучшим результатом в таблице и превосходит Decider 4B (81.1). Особенно выделяются показатели в задачах понимания текста (SQuAD 2.0: 83.3) и логических вопросов (BoolQ: 86.3).
- d1-omni-600M показала средний балл 78.4, превосходя Decider 2B (77.1), имея при этом в четыре раза меньше параметров. Это доказывает эффективность архитектуры энкодера для мультимодальных задач.
Интересно отметить, что в задаче PAWS-X (поиск паразитных предложений в парах предложений), где требуется тонкое понимание синтаксиса, d1-omni-600M показала результат 79.5, значительно превосходя Decider 2B (59.5). Это говорит о том, что двунаправленные энкодеры могут быть более эффективными для некоторых лингвистических задач, чем традиционные декодеры.
04Скорость инференса: от серверов до edge-устройств
Главное преимущество d1 — это скорость. В сотрудничестве с NVIDIA команда LiquidAI протестировала d1-3B на широком спектре оборудования, от серверных GPU до мобильных edge-устройств. Результаты впечатляют даже для современных стандартов.
Edge-инференс
На мобильных устройствах NVIDIA Jetson d1-3B показывает следующие результаты:
- NVIDIA Jetson AGX Thor: 16 мс на один вопрос, 20 мс на три вопроса. Пропускная способность: 262 запроса в секунду.
- NVIDIA Jetson AGX Orin 64 GB: 26 мс на один вопрос, 35 мс на три вопроса. Пропускная способность: 110 запросов в секунду.
- NVIDIA Jetson Orin Nano: 50 мс на один вопрос, 73 мс на три вопроса. Пропускная способность: 38 запросов в секунду.
Обратите внимание на линейность масштабируемости. Обработка трех вопросов занимает всего 1.3x времени от обработки одного, что указывает на высокую эффективность упаковки запросов (packing). На Jetson AGX Thor обработка состояния из 3.4K токенов занимает 220 мс, а обработка изображения размером 384px — всего 35 мс.
GPU-инференс
На серверных GPU скорость еще выше. На NVIDIA RTX 4090 ответ на вопрос занимает 8 мс, а на AMD MI325X — 9 мс. Пропускная способность на AMD MI325X достигает 1,106 запросов в секунду при упаковке 64 состояний. Это делает d1-3B идеальным выбором для высоконагруженных сервисов, где важна задержка, например, для модерации контента в реальном времени или маршрутизации обращений в поддержку.
05Как использовать модели d1: Практическое руководство
Развертывание моделей d1 максимально упрощено благодаря интеграции с библиотекой Hugging Face Transformers. Для работы требуется версия transformers >= 5.14. Важно отметить, что модели поставляются со своим собственным кодом, поэтому при загрузке необходимо использовать параметр trust_remote_code=True.
Установка зависимостей
pip install "transformers>=5.14" torch torchvision pillowПример 1: Текстовая классификация с несколькими вопросами
Модель d1-3B позволяет задавать несколько вопросов к одному текстовому состоянию в одном проходе. Это очень эффективно для комплексного анализа текста. Например, можно одновременно определить, просит ли клиент возврат средств, к какой команде следует направить обращение и насколько это срочно.
import io
import urllib.request
import torch
from PIL import Image
from transformers import AutoModel
device = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
model = AutoModel.from_pretrained(
"LiquidAI/d1-3B",
trust_remote_code=True,
dtype=torch.float32 if device == "cpu" else torch.bfloat16
).to(device)
# Несколько вопросов к одному текстовому состоянию, ответ в один проход
questions = {
"refund": {
"type": "bool",
"instructions": "Is the customer asking for a refund?"
},
"team": {
"type": "choice",
"instructions": "Which team should handle this?",
"criteria": {
"billing": "Charges, refunds, invoices",
"technical": "App or site faults",
"fraud": "Suspected unauthorised use"
}
},
"urgency": {
"type": "score",
"instructions": "How urgent is this?",
"criteria": [
"Can wait",
"Today",
"Blocking the customer now"
]
}
}
print(model.system_one(
"I was charged twice this month, please refund one of them.",
questions
))Пример 2: Анализ изображений
d1-3B также поддерживает работу с изображениями. Вы можете передать изображение и задать вопрос о его содержании. Модель вернет структурированный ответ, например, количество объектов на картинке.
url = "http://images.cocodataset.org/val2017/000000039769.jpg" # two cats on a sofa
photo = Image.open(io.BytesIO(urllib.request.urlopen(url).read()))
print(model.system_one(
None,
{
"cats": {
"type": "choice",
"instructions": "How many cats are there?",
"criteria": {
"one": "One",
"two": "Two",
"more": "Three or more"
}
}
},
images=[photo]
))Пример 3: Пакетная обработка (Batching)
Для максимальной эффективности используйте метод system_one_batch, который позволяет обрабатывать множество запросов одновременно без добавления лишних токенов заполнения (padding).
tickets = [
"Where is my parcel? It was due Monday.",
"The app crashes when I open settings."
]
print(model.system_one_batch([(t, {"team": questions["team"]}) for t in tickets]))06Что это значит на практике?
Появление открытых моделей принятия решений, таких как d1-3B и d1-omni-600M, открывает новые возможности для разработчиков ИИ в России и мире. Вот несколько сценариев, где эти технологии могут стать прорывом:
- Модерация контента в реальном времени. Социальные сети и платформы пользовательского контента (UGC) могут использовать d1-3B для мгновенной классификации постов на токсичность, спам или нарушение правил. Скорость в 8-16 мс позволяет обрабатывать потоки данных без задержек для пользователей.
- Обработка обращений в поддержку. Чат-боты и системы маршрутизации тикетов могут использовать d1-3B для одновременного определения намерения клиента, категории проблемы и срочности. Это сокращает время ожидания клиента и повышает точность маршрутизации.
- Компьютерное зрение на edge-устройствах. Для устройств с ограниченной вычислительной мощностью, таких как камеры видеонаблюдения, дроны или умные очки, d1-omni-600M или d1-3B могут выполнять задачи классификации объектов или распознавания лиц с минимальным потреблением энергии.
- Анализ медицинских данных. Высокая точность d1-3B в задачах медицинского QA (PubMedQA: 68.3) делает её перспективной для предварительной сортировки медицинских запросов или анализа симптомов, хотя и требует осторожности и валидации врачами.
Важно отметить, что d1-3B сохраняет визуальные способности своей базовой модели LFM2.5-VL-3B, что делает её универсальным инструментом для мультимодальных задач. d1-omni-600M, в свою очередь, предлагает уникальный подход к обработке аудио и текста, что может быть полезно для задач транскрипции и анализа голосовых команд.
07Заключение
LiquidAI d1 — это не просто еще одна модель. Это сдвиг парадигмы в сторону более эффективного, быстрого и специализированного ИИ. Открыв веса моделей d1-3B и d1-omni-600M, LiquidAI дает сообществу мощный инструмент для создания приложений, которые работают быстро, точно и с низким потреблением ресурсов. Для разработчиков, работающих в условиях ограниченных вычислительных ресурсов или требующих низкой задержки, эти модели становятся новым стандартом качества.
Вы можете скачать модели с Hugging Face, попробовать их в System One Arcade или интегрировать в свои проекты. Мы с нетерпением ждем, какие инновационные решения появятся на базе d1 в ближайшие месяцы.
08Ссылки и ресурсы
Если вы используете эту работу, пожалуйста, цитируйте:
@article{liquidAI2026opend1,
author = {Liquid AI},
title = {Open d1: Edge decision models for text, vision, and audio},
journal = {Liquid AI Blog},
year = {2026},
note = {www.liquid.ai/blog/open-d1}
}Источник: Hugging Face ↗