Суть явления: От LLM к вероятностным решениям
Рынок AI переживает сдвиг парадигмы. На смену тяжеловесным языковым моделям (LLM), генерирующим текст, приходят decision models (модели принятия решений). Яркий пример — Jev от компании TypeSafe. Это API, которое не генерирует диалоги, а выдает вероятности ответов на конкретные вопросы (например, «Ищет ли клиент возврат?» — да/нет) на основе входных данных. Это позволяет интегрировать AI в логику кода через простые условные операторы, избегая галлюцинаций и задержек.
Конфликт авторства: TypeSafe vs ConvAI Innovations
Нандацишор Муккунноат (Nandakishor Mukkunnoth), основатель ConvAI Innovations, заявил, что концепция Jev была скопирована у него. Он опубликовал статью SalesRLAgent на arXiv еще 30 марта 2025 года (за год до релиза Jev), где описал архитектуру для оценки вероятностей. В ответ на претензии TypeSafe, Муккунноат выпустил свой open-source проект Laya — аналог Jev, работающий на энкодерных моделях семейства BERT, а не на Qwen.
Взрывной рост экосистемы клонов
Успех Jev спровоцировал лавину аналогичных продуктов. В течение нескольких недель на рынок вышли решения от гигантов и стартапов. Большинство коммерческих и open-source проектов базируются на легкой модели Qwen от Alibaba, добавляя к ней специфические слои для обработки решений.
| Проект / Компания | Тип доступа | Базовая архитектура / Примечание |
|---|---|---|
| Jev (TypeSafe) | API (Commercial) | Первопроходец, System 1 архитектура |
| Laya (ConvAI) | Open Source | На базе BERT (энкодер), ответ на Jev |
| Microsoft Decision | API | Клон, быстрый запуск после Jev |
| OpenAI Decisions API | API | Интеграция в экосистему OpenAI |
| Strands Decider 2B (Amazon) | Open Weights | Локальный запуск, 2B параметров |
| Clef (Cloudflare) / Decider (Perplexity) | Open Weights | Открытые веса для self-hosting |
| Fastino Glide | API | Коммерческий аналог |
Почему это важно для разработчиков
Термин «System 1» (отсылка к книге Даниэля Канемана «Думай медленно... решай быстро») здесь означает быстрые, интуитивные, не требующие контекста решения. В отличие от System 2 (LLM), такие модели:
- Дешевле: Стоимость инференса значительно ниже генерации текста.
- Быстрее: Параллельная обработка запросов без токеновой генерации.
- Надежнее: Отсутствие галлюцинаций, так как вывод строго детерминирован вероятностями.
Рынок доказал, что легковесные модели для конкретных бизнес-задач (sales, support, analytics) могут быть эффективнее универсальных LLM, что заставляет всех игроков пересматривать свои продуктовые линейки.
Источник: Tom's Hardware ↗