Интеграция маршрутизации OpenRouter
16 ноября 2026 года Hugging Face объявил о стратегическом партнерстве с OpenRouter. Ключевое изменение: система Inference Providers больше не использует собственный кастомный роутер, а полностью перешла на инфраструктуру OpenRouter. Теперь каждый запрос к языковым моделям проходит через умный маршрутизатор, который в реальном времени оценивает 80+ провайдеров и выбирает оптимального исполнителя на основе цены, скорости и надежности.
Для разработчиков это означает, что код остается неизменным. Поддерживаются стандартные API OpenAI (Chat Completions, Responses) и Anthropic (Messages). Вы продолжаете использовать свой токен Hugging Face, но за кулисами запросы распределяются между сотнями бэкендов.
Экономика Open-Weight моделей
Партнерство подчеркивает растущую популярность открытых моделей. За последний год доля open-weight моделей на OpenRouter выросла с 26,8% (октябрь 2025) до 71,7% (сентябрь 2026). Лидером по объему токенов стала модель DeepSeek V4.1 Flash 1017 (59,2 трлн токенов). Открытые модели обходят проприетарные аналоги в цене примерно в 4 раза:
| Тип модели | Цена за 1 млн входных токенов | Цена за 1 млн выходных токенов |
|---|---|---|
| Open-Weight | $0.28 | $1.62 |
| Закрытые (Proprietary) | $1.27 | $6.36 |
Несмотря на преимущество в стоимости, открытые модели пока уступают лидерам в сложных бенчмарках. Например, лучшая открытая модель Kimi K3.1 Pro набирает 46 баллов в Artificial Analysis Intelligence Index против 65 у Claude Fable 5.2. Однако разница в стоимости задачи ($3.68 против $26.54) делает open-weight решения экономически оправданными для большинства рабочих нагрузок.
Технические улучшения маршрутизации
Обновленный роутер OpenRouter не просто ищет самый дешевый вариант, а балансирует три параметра: цену, скорость (Time to First Token) и надежность. При сбое или замедлении одного провайдера трафик автоматически перенаправляется на следующий лучший вариант с автоматическим повтором запроса. Это привело к снижению ошибок пропускной способности на 46%, улучшению TTFT на 16,9% и пропускной способности на 16,3%.
Роутер также учитывает кэширование промптов: диалог остается у одного провайдера для сохранения контекста. Для этого используется заголовок X-HF-Session-Id.
Управление и новые возможности
Пользователи получили прозрачность: на страницах моделей появились вкладки Providers и Metrics, показывающие цены, скорость и аптайм провайдеров за последние 24 часа. В настройках можно отключить конкретных провайдеров, если они не вызывают доверия.
Важное изменение (Breaking Change): использование собственных API-ключей сторонних провайдеров для языковых моделей больше не поддерживается. Все запросы теперь биллингуется через аккаунт Hugging Face. Однако для генерации изображений, видео и аудио старые ключи продолжают работать. Пользователи PRO получают $2 кредитов в месяц, а Team/Enterprise — $2 за пользователя.
Источник: Hugging Face blog ↗
