Суть инновации: от генерации к выбору
Google представила Gemini Decisions API, работающую на базе новой модели Gemini Decision 1 (gemini-decision-1). В отличие от традиционных LLM, которые генерируют текст токен за токеном, эта модель выполняет однократный прямой проход (single forward pass) для оценки до 1 000 независимых вопросов (да/нет, выбор из вариантов, оценка по рубрике) на основе одного мультимодального ввода.
Ключевая особенность — возврат не текста, а вероятностей и баллов уверенности (confidence scores от 0 до 1). Это позволяет разработчикам программно маршрутизировать запросы, принимать решения о безопасности или классифицировать контент без задержек, характерных для генерации.
Производительность и стоимость
Модель оптимизирована для скорости и экономии. Задержка составляет всего 150–250 мс (end-to-end), при этом время вычислений модели — 50–100 мс. Стоимость использования крайне низка: $0.10 за 1 млн входных токенов, при этом выходные токены не тарифицируются ($0). По сравнению с Gemini 3.5 Flash-Lite через Interactions API, решение становится почти в 5 раз дешевле на общих бенчмарках.
| Параметр | Gemini Decision 1 (Decisions API) | Gemini 3.5 Flash-Lite (Interactions API) |
|---|---|---|
| Задержка (Latency) | 150–250 мс (end-to-end) | Выше (генерация токенов) |
| Стоимость | $0.10 / 1M input tokens | Выше (тарификация output токенов) |
| Количество вопросов | До 1 000 за один запрос | Обычно 1 ответ на запрос |
| Входные данные | До 256K токенов (текст, изображения, аудио, видео, PDF) | Зависит от модели |
Три типа решений в одном запросе
API поддерживает три типа задач, которые можно комбинировать в одном запросе к единому мультимодальному контексту:
- noul (Yes/No): Оценка вероятности выполнения условия (да/нет) с возможностью указания критериев.
- choice (Multiple Choice): Выбор победителя из 2–255 вариантов с нормализованными вероятностями для каждого кандидата.
- score (Ordered Rubric): Оценка по упорядоченной рубрике (от 0), возвращающая непрерывный взвешенный балл и вероятности для каждого уровня.
Реальные кейсы использования
Команды Google уже интегрируют API в свои продукты для снижения задержек:
- Gemini Notebook: Используется как маршрутизатор для направления запросов к оптимальной модели. Это снижает задержку для простых запросов на 40%.
- Stitch (Rapid Canvas): Позволяет мгновенно генерировать играбельные вайрфреймы и применять правки голосом или тапом, передавая результат в основной инструмент дизайна.
- Google Search (MCP tools): Выявляет вредоносное поведение и контент с высокой эффективностью в рамках жестких временных ограничений.
- CC (Google Labs): Мгновенный выбор эмодзи из палитры в 200+ вариантов без добавления задержки в интерфейс.
Доступность и экосистема
API доступен через Google AI Studio и Gemini API. Поддержка SDK уже добавлена в OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit и OpenCode. Поддержка Gemini в Google Cloud находится в разработке. Для прототипирования доступен бесплатный тариф.
Источник: Google AI ↗