Новый класс моделей: не текст, а вероятности
В сентябре-октябре 2026 года рынок AI-агентов получил новый фундаментальный инструмент. Типичный LLM генерирует текст, но новые «Decision Models» (модели принятия решений) работают иначе. Они принимают состояние (JSON/строку) и набор типизированных вопросов, возвращая не прозу, а структурированные вероятности. Схемы ответов стандартизировались до трех форматов: predicate (да/нет), choice (распределение по фиксированным вариантам) и score (взвешенная оценка по рубрике). Это позволяет инженерам легко переключаться между провайдерами, так как API-схемы (например, формат «System One» от Jev) стали де-факто стандартом.
Хронология и ключевые игроки
За три недели четыре компании представили свои решения, создав жесткую конкуренцию в нише низкой задержки:
- 15 сентября: TypeSafe AI выпустила Jev на фоне раунда финансирования в $40 млн (позже Bloomberg сообщил о раунде в $870 млн при оценке $7.5 млрд).
- 1 октября: Cloudflare и AWS одновременно представили Clef и Strands Decider.
- 6-7 октября: OpenAI открыла публичную бету Decisions API на базе модели GPT-6 Luna.
Сравнение характеристик
Ключевое отличие этих моделей от чат-ботов — оптимизация под скорость и стоимость обработки состояний. Ниже приведены технические спецификации основных конкурентов:
| Модель / Провайдер | Параметры / База | Контекст | Цена (входные токены) | Особенности |
|---|---|---|---|---|
| Jev (TypeSafe AI) | Не раскрыто | Не раскрыто | $0.042 / млн токенов | Задержка 70–500 мс. Нет платы за вывод. Заявлено в 50 раз дешевле GPT-5.6. |
| Clef (Cloudflare) | 27B (полная), 9B (flash) | 64K токенов | Не указано в тексте | Open-weight (Apache 2.0). Поддержка до 4 изображений на запрос. |
| Strands Decider (AWS) | 2B (на базе Qwen3.5-2B) | Не раскрыто | Не указано в тексте | Проект инженера Марка Брукера. Полностью open-source (лицензия не названа). |
| GPT-6 Luna (OpenAI) | Не раскрыто | Не раскрыто | Не указано в тексте | Интеграция в существующую экосистему OpenAI. Публичная бета. |
Почему это важно для разработчиков
Выбор между этими моделями теперь сводится к классическому компромиссу: точность против задержки и стоимости. В отличие от чат-моделей, где важна креативность и сложность ответов, здесь критичны миллисекунды. Jev позиционирует себя как самый дешевый вариант ($0.042 за млн входных токенов против $2.00–$12.00 у GPT-5.6), что делает его привлекательным для массовых агентов. Cloudflare предлагает гибкость через open-weight модели и мультимодальность (изображения), а AWS дает легковесное решение на базе Qwen. OpenAI же заходит через привычный API. Инженерам, строящим агентные петли, теперь нужно тестировать не только качество ответов, но и реальную задержку (latency) в своих пайплайнах, так как бенчмарки (например, JevBench) могут не отражать полную картину точности.
Источник: Towards AI pub ↗