You.com Inference Router: 12 моделей, SLA 99.9% и ZDR без скрытых платежей

Решение проблемы миграции: надежность и безопасность

Компания You.com представила Inference Router, сервис, закрывающий разрыв между тестированием open-weight моделей и их промышленным внедрением. Главная проблема, которую решает продукт — бюрократические и технические барьеры при переходе от агрегаторов к production-среде. Сервис предлагает OpenAI-совместимый API (endpoint: api.you.com), что позволяет разработчикам менять базовый URL и ключ без переписывания SDK-кода.

Ключевые гарантии для энтерпрайза:

• SLA 99.9% с кредитами при нарушении.
• Zero Data Retention (ZDR): промпты и ответы обрабатываются только в памяти, не сохраняются на диск. Это касается и вызовов моделей, и веб-поиска.
• 100% US Hosting: вся инфраструктура, включая фолловер-провайдеров, расположена в США.
• 0% Platform Fee: в отличие от OpenRouter, где комиссия составляет 5.5%, You.com не берет наценку за использование платформы.

Архитектура и доступные модели

Маршрутизация работает по принципу приоритета: запросы сначала направляются в You.com Inference Direct (собственная мощность компании). При перегрузке или недоступности происходит автоматический фолловер на проверенных партнеров: Parasail, Wafer, Alibaba Cloud, Meta, Inception и Prime Intellect (скоро). Все провайдеры обязаны соблюдать правила ZDR.

На старте доступно 12 моделей, от GPT-OSS 120B (контекст 125K) до Kimi K3 и Qwen3.8 Max (контекст 1M). Kimi K3 от Moonshot AI имеет 2.8 трлн параметров, а Qwen3.8 Max — 2.4 трлн (MoE-архитектура).

Ценообразование и сравнение с рынком

Модель оплаты — pay-as-you-go. Цены на токены близки к рыночным, но выгода кроется в отсутствии скрытых комиссий и гарантиях. Ниже приведено сравнение цен на ключевые модели с конкурентами (цены за 1M токенов: вход / выход).

Сравнение с OpenRouter показывает, что цены на Kimi K3 там варьируются от $0.238 до $4.50 в зависимости от провайдера, но к ним добавляется комиссия 5.5%. Для Fireworks AI использование US-хостинга делает You.com примерно на 37% дешевле на входе для Kimi K3.

Бенчмарки: Open-Weight против Frontier

Высокая стоимость frontier-моделей часто оправдывается качеством, но You.com демонстрирует, что open-weight модели могут конкурировать с ними при использовании встроенного веб-поиска. В тесте LiveNewsBench (1,329 вопросов) результаты показали следующее:

GLM-5.3 с поиском от You.com показал точность 86.53% — на уровне GPT-6.1 Sol и Claude Sonnet 5.5, но при стоимости вопроса $0.0485 против $0.0920 у Claude. DeepSeek V4.1 Flash оказался еще дешевле ($0.0215), уступая лидеру всего 2.26 пункта точности.

Интеграция веб-поиска

Сервис предлагает встроенный инструмент web_search или web_extract, работающий на том же сервере, что и модель. Это снижает задержку (latency) до 15% по сравнению с асинхронными вызовами. Разработчики могут запрашивать до 20 результатов за поиск и настраивать до 30 раундов поиска. Ответы возвращаются в формате web_results с цитированием источников.

Также упоминается совместная работа с NVIDIA и CoreWeave: дообучение Nemotron 3.5 Lightning с использованием поиска в контуре (in-the-loop) повысило результат на BrowseComp с 36.97% до 45.45%, сократив количество вызовов инструментов на 30%.

Бенчмарки

Жирным — лучший результат в строке. Источник цифр — официальная публикация.

Источник: MarkTechPost ↗