Что такое Decision AI и почему это важно
Класс моделей Decision AI решает проблему «галлюцинаций» в бизнес-логике. Вместо генерации текста, модель принимает решение на основе состояния (state) и заданных вопросов, возвращая вероятности, оценки или бинарные ответы, которые код может использовать напрямую. Ключевая архитектура Jev использует параллельный сэмплер и метод обучения RLCD (Reinforcement Learning for Calibrated Decisions), оптимизированный не на человеческие предпочтения, а на калиброванную точность вероятностей.
Характеристики и цены: Jev против конкурентов
Главное преимущество Jev — скорость и цена. Модель обрабатывает запросы за 70–500 мс, что делает её идеальной для real-time приложений. Однако для локального запуска и полного контроля существуют open-source альтернативы, такие как GLiNER2.5-Decide и Laya.
| Модель | Разработчик | Тип доступа | Архитектура/Размер | Задержка (Latency) | Локальный запуск |
|---|---|---|---|---|---|
| Jev 1.13 | TypeSafe AI | Закрытый API ($0.042/M токенов) | Собственная, RLCD | 70–500 мс | Нет |
| GLiDE | Fastino Labs | Закрытый API (40K контекст) | Адаптивное мышление | Не раскрыто | Нет |
| GLiNER2.5-Decide | Fastino Labs | Apache 2.0 (Weights) | 340M DeBERTa-v3-large | 38.3 мс (V100) | Да (CPU/GPU) |
| Laya | Convai Innovations | Apache 2.0 (Weights) | 421M ModernBERT-large | ~33 мс (GPU) | Да |
| kev-0.5b | Jared Palmer | Apache 2.0 (LoRA) | Qwen2.5-0.5B + readout head | ~160 мс (Apple M5) | Да (Laptop) |
Бенчмарки: Точность против стоимости
В тестах TypeSafe AI (workflow evals) Jev показала результаты, сопоставимые с флагманскими LLM, но при этом значительно дешевле и быстрее. Важно отметить, что Jev уступает топовым моделям в абсолютной точности, но выигрывает в эффективности для рутинных задач.
| Модель | Точность (Accuracy) | Стоимость за кейс | Время ответа |
|---|---|---|---|
| Jev 1.13 | 67.8% | $0.0004 | 0.4 сек |
| Claude Sonnet 5 | 67.8% | $0.1174 | 78.1 сек |
| OpenAI “sol” (Best) | 74.1% | $0.0836 | 23.3 сек |
Где это применяется уже сейчас
Модели Decision AI внедряются в критически важные узлы инфраструктуры:
- Маршрутизация агентов: Vercel AI Gateway использует Jev для выбора следующих инструментов или под-агентов, заменяя хрупкий парсинг JSON.
- Обработка инцидентов: Автоматическая классификация тикетов поддержки и триаж безопасности (закрыть, передать аналитику или изолировать).
- Edge-вычисления: В 6G сетях Jev сократила медианную задержку принятия решений на 22.4% по сравнению с DeepSeek и на 61.9% по сравнению с Gemini при той же точности.
- Игры и симуляции: Демонстрация игры в Doom с частотой 10 запросов в секунду при стоимости около $7 в час.
Ограничения и риски
Decision AI не заменяет LLM для генерации текста, суммаризации или сложных арифметических вычислений. Также TypeSafe AI предупреждает о рисках скрытых предубеждений (bias) при принятии решений, влияющих на жизнь людей (например, найм), так как внутренняя логика модели сложнее для интерпретации, чем текст.
Бенчмарки
| Бенчмарк | Jev | Claude Sonnet 5 | OpenAI sol |
|---|---|---|---|
| Workflow Evals (Security/Agent/Invoice/CS) | 67.8% | 67.8% | 74.1% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗