Проблема: переплата за 'мышление' там, где нужен ответ
Большинство AI-агентов тратят ресурсы неэффективно. Типичный сценарий: бот поддержки должен классифицировать тикет (например, 'запрос на возврат'). Вместо того чтобы использовать легковесную модель, разработчики отправляют запрос через мощную reasoning-модель (LLM). Это приводит к задержкам в несколько секунд и лишним центам за токены. При масштабе в миллионы тикетов в месяц это создает огромную финансовую нагрузку на инфраструктуру.
Суть проблемы в том, что для маршрутизации (routing), фильтрации (gating) и эскалации (escalation) не требуется генерация текста. Нужен быстрый, типизированный ответ: метка, оценка или 'да/нет'.
Решение: рождение категории 'Decision Models'
В последние шесть недель на рынок вышли специализированные модели, которые не генерируют текст, а выдают структурированные решения. Инициатором тренда стала стартап TypeSafe AI с моделью Jev. Она оценивает состояние и заданные вопросы за один проход, возвращая выбор с калиброванной уверенностью. В Vercel AI Gateway 13% платных команд попробовали Jev в первые 24 часа — в два раза быстрее, чем любые предыдущие запуски.
За Jev последовали другие игроки:
- Cloudflare (1 октября): открыла исходный код Clef и Clef-flash (лицензия Apache 2.0). Поддерживает текст, изображения и видео.
- AWS (1 октября): выпустила Strands Decider 2B. Это модель на базе Qwen3.5 с 2 млрд параметров, оптимизированная для локального запуска с задержкой менее 150 мс.
- OpenAI (6 октября): представила Decisions API на базе GPT-6 Luna. По заявлениям компании, она работает в 10 раз быстрее стандартного Responses API. Никундж Ханда (OpenAI) признал, что Jev вдохновила на создание этого API, которого не было в дорожной карте всего месяц назад.
Сравнение новых решений
Ниже приведена сводка ключевых характеристик новых моделей для принятия решений:
| Модель / Продукт | Провайдер | Дата релиза | Ключевые характеристики |
|---|---|---|---|
| Jev | TypeSafe AI | Сентябрь | Не генерирует текст. Возвращает выбор, оценку и уверенность. Высокая скорость. |
| Clef / Clef-flash | Cloudflare | 1 октября | Open Source (Apache 2.0). Поддержка текста, изображений и видео. Работает на Workers AI. |
| Strands Decider 2B | AWS | 1 октября | Open Source. База Qwen3.5, 2 млрд параметров. Оптимизация для локального запуска (<150 мс). |
| Decisions API | OpenAI | 6 октября | На базе GPT-6 Luna. До 10x быстрее стандартного API. Закрытое решение. |
Почему это важно для разработчиков
Появление этих моделей меняет архитектуру AI-агентов. Разработчикам больше не нужно использовать 'тяжелую артиллерию' для простых логических шагов. Это позволяет:
- Снизить стоимость: Узкоспециализированные модели требуют меньше вычислительных ресурсов.
- Увеличить скорость: Задержки сокращаются с секунд до миллисекунд.
- Повысить надежность: Структурированные выходы (JSON, метки) легче парсить и проверять, чем свободный текст.
Тренд показывает, что будущее AI-агентов лежит не в увеличении размера одной универсальной модели, а в создании гибридных систем, где каждый шаг обрабатывается оптимальным для него инструментом.
Источник: Towards AI pub ↗