От LLM к System One: конец эпохи текстовых ответов
Компания TypeSafe AI анонсировала релиз модели Jev, позиционируя её как преемницу ChatGPT, но для другой аудитории. Если ChatGPT научил ИИ говорить с людьми, то Jev создана, чтобы ИИ говорил с программным обеспечением. Это не Large Language Model в традиционном понимании: она не генерирует свободный текст. Вместо этого на вход подается состояние (state) и типизированные вопросы, а на выходе получаются структурированные решения с калиброванными вероятностями, готовые к ветвлению в коде.
Архитектура Jev базируется на трансформерах, но использует уникальный стек: новую архитектуру, параллельный сэмплер и метод обучения с подкреплением для калиброванных решений (RLCD). Модель заимствует концепцию «System One» у Даниэля Канемана, обозначая быстрый интуитивный тип мышления, в отличие от медленного рассуждения.
API и три типа запросов
Jev работает через единый endpoint POST /v1/systemone. Разработчики могут отправлять запросы параллельно, что минимально влияет на время отклика. Модель поддерживает три типа примитивов:
- Choice: Выбор одного варианта из списка (до 255 опций). Возвращает выбор, вероятности и уверенность.
- Score: Оценка по упорядоченным уровням. Возвращает балл, вероятности и уверенность.
- Noul: Проверка истинности утверждения. Возвращает вероятность от 0 до 1.
Ключевая особенность — значение confidence (уверенность), вычисляемое на основе формы распределения вероятностей. Это позволяет разработчикам строить логику: действовать при высокой уверенности, перепроверять при средней и передавать человеку при низкой.
Скорость и стоимость: сравнение с лидерами рынка
TypeSafe AI заявляет о радикальном улучшении метрик по сравнению с крупными языковыми моделями. В своих внутренних тестах компания сравнивает Jev с GPT-5.6 Terra и другими моделями. Ниже приведены данные из официального демо:
| Метрика | Jev (TypeSafe AI) | GPT-5.6 Terra (Reference) |
|---|---|---|
| Время выполнения | 0.114 сек | 8.566 сек |
| Стоимость запроса | $0.000081 | $0.013880 |
| Ускорение | ~193.6x быстрее | |
| Экономия | ~444.6x дешевле | |
Стоимость входа составляет $42 за миллиард входных токенов (или $0.042 за 1M токенов), при этом выходные токены бесплатны. Однако стоит отметить, что бенчмарки проведены самой TypeSafe AI на специфических рабочих процессах, и результаты могут быть оптимистичными для реальных сценариев.
Практическое применение и экосистема
Несмотря на закрытость весов и отсутствие self-hosting опции на старте, сообщество уже начало интегрировать Jev. Примеры использования включают:
- Безопасность команд: CEO Vercel Гильермо Раух отметил, что Jev работает до 18x быстрее GPT Luna на p95.
- Агенты для браузера: Проект jev-ultrafast выполнил поиск авиабилетов в 7.1 секунды.
- Мобильные агенты: Droidrun использовал Jev для управления Uber на реальном Android-устройстве (9 действий за ~21 секунду).
- Игры: Jev успешно прошла первую боевую миссию в StarCraft.
Модель доступна в раннем доступе через waitlist. SDK поддерживают Python (3.10+) и JavaScript. TypeSafe AI подчеркивает, что «нулевые галлюцинации» означают лишь гарантию соответствия схеме вывода, а не абсолютную истинность фактов.
Источник: MarkTechPost ↗