Суть инновации: Swap Model, Save Money
Компания Together AI представила Together Link — утилиту с открытым исходным кодом (лицензия MIT), находящуюся в стадии бета-тестирования. Инструмент решает проблему высоких затрат на использование закрытых LLM в агентах для программирования. Together Link позволяет подключать уже установленные инструменты разработки к моделям, размещенным на инфраструктуре Together AI, сохраняя привычный интерфейс, но меняя «мозги» на более дешевые и эффективные открытые аналоги.
Поддерживаемые платформы включают Claude Code, Claude Desktop, Codex, ChatGPT Desktop, OpenCode и Pi. Установка занимает одну команду и не требует запуска локальных прокси-серверов или демонов.
Техническая реализация и маршрутизация
Установка осуществляется через стандартный curl-скрипт, который добавляет утилиту в ~/.local/bin. Ключевая особенность — встроенный Auto Router. По умолчанию сессии используют виртуальную модель auto, которая анализирует первую задачу сессии:
- Простые задачи (правки, рефакторинг) маршрутизируются на быстрые и дешевые модели (GLM 5.3 Flash, DeepSeek V4.1 Flash).
- Сложные задачи (полный перепис кода) направляются к моделям уровня frontier (Kimi K3, GLM 5.3).
При наличии ключа Anthropic роутер может эскалировать сложные запросы к Opus 5.5, но для остальных инструментов (Codex, OpenCode, Pi, ChatGPT Desktop) используются только модели Together AI. Роутинг происходит один раз за сессию, что сохраняет эффективность prompt caching.
Модельный ряд и экономика
Together AI позиционирует свои модели как прямых конкурентов премиальным решениям, но с существенным снижением стоимости. Все поддерживаемые модели имеют контекстное окно 1M токенов. Ниже приведено сравнение цен и характеристик:
| Модель | Цена Input ($/M) | Цена Output ($/M) | Ключевая характеристика |
|---|---|---|---|
| Kimi K3 | $3.00 | $15.00 | Высокая производительность, замена Opus |
| GLM 5.3 | $1.40 | $4.40 | Баланс скорости и качества |
| GLM 5.3 Flash | $0.30 | $1.20 | Быстрые повседневные задачи |
| DeepSeek V4.1 Flash | $0.30 | $1.20 | Экономичный вариант, 40.8% рынка OpenRouter |
По заявлениям разработчиков, использование открытых моделей через Together Link обеспечивает экономию более 50% в среднем и до 80% по сравнению со сессиями, полностью состоящими из Opus 5.5. В интерфейсе Claude Code отображается оценка расходов в реальном времени.
Сравнение с альтернативами
Главное преимущество Together Link перед аналогами (такими как OpenRouter или локальный Ollama) — отсутствие необходимости управлять локальными шлюзами. В отличие от Claude Code Router, который требует настройки локального прокси на порту 3456, Together Link работает через хостинг-шлюз Together AI. Это упрощает настройку для macOS и Linux, хотя поддержка Windows в текущей бете отсутствует.
Почему это важно
Инженерные команды тратят десятки тысяч долларов ежемесячно на закрытые модели. Together Link предлагает инфраструктурное решение, которое не требует изменения кода агентов или конфигурационных файлов IDE. Это снижает порог входа для внедрения open-weight моделей в корпоративные воркфлоу, делая их доступными через привычные интерфейсы.
Источник: MarkTechPost ↗