AIKraft Agents
Главная/Блог/Аналитика/Self-hosted LLM vs API: Когда…
Аналитика4 мин чтения · 12 ноября 2026 г.

Self-hosted LLM vs API: Когда самохостинг окупается

Глубокий анализ стоимости владения собственным GPU против использования API. Разбираем брейк-even, приватность и гибридные сценарии.

Self-hosted LLM vs API: Когда самохостинг окупается

Если вы платите за API-вызовы для работы с открытыми моделями (open-weight), логично задаться вопросом: не выгоднее ли будет купить или арендовать собственную видеокарту? На первый взгляд, ответ кажется очевидным — владение оборудованием должно быть дешевле долгосрочной аренды вычислительных мощностей. Однако реальность облачных вычислений и рынка LLM-сервисов сложнее. Аренда GPU взимается почасово, независимо от того, работаете вы с ней или нет, в то время как API-провайдеры берут плату только за фактически использованные токены. Это фундаментальное различие в модели ценообразования создает сложную математическую задачу: при каком уровне нагрузки самохостинг становится экономически целесообразным?

Ответ зависит от множества факторов: от типа модели, количества GPU, их архитектуры, а также от того, как именно вы используете модель — для простого чата или для сложных агентов, генерирующих огромные объемы контекста. В этой статье мы подробно разберем, когда самохостинг действительно имеет смысл, а когда вы просто выбрасываете деньги на ветер. Мы опираемся на актуальные данные цен на аренду GPU и тарифы API, чтобы дать вам практическое руководство для принятия решения.

Self-hosted LLM vs API: Когда самохостинг окупается

01Как рассчитать точку безубыточности (Break-Even)

Чтобы понять, окупается ли самохостинг, нужно сравнить два сценария за один и тот же промежуток времени, например, за один час. С одной стороны, у нас есть стоимость аренды GPU за этот час. С другой — стоимость тех же самых токенов, которые эта GPU могла бы обработать за час, если бы мы использовали API, при скорости, приемлемой для ваших пользователей.

Формула точки безубыточности выглядит следующим образом:

Точка безубыточности (в % нагрузки) = Стоимость аренды GPU в час / Стоимость API для полного часа работы GPU

Если точка безубыточности составляет 30%, это означает, что GPU должна быть занята вычислениями 30% времени от всего периода аренды, чтобы самохостинг стал дешевле API. Если расчетная нагрузка превышает 100%, это значит, что API выигрывает даже в случае непрерывной работы GPU без перерывов. Важно отметить, что для корректного сравнения необходимо использовать одинаковый микс токенов, так как цены на входные токены, кэшированные входные токены и выходные токены в API сильно различаются. Кроме того, в этот расчет не включено время инженеров на поддержку инфраструктуры и резервные мощности для пиковых нагрузок, поэтому все приведенные ниже цифры являются нижней границей экономии.

💡
Важно помнить. Расчеты всегда являются оценочными. Рынок GPU и API меняется быстро. То, что было выгодно вчера, может стать убыточным сегодня из-за изменения тарифов провайдеров или появления новых моделей.

02Сколько стоит API для той же модели?

Большинство открытых моделей (open-weight) обслуживаются множеством провайдеров. Каждый из них запускает свою копию весов на своем оборудовании и устанавливает собственную цену. Это создает значительный разброс в ценах. Например, для модели Qwen3.8 27B самый дорогой провайдер может взимать заметно больше за выходные токены, чем самый дешевый, а для DeepSeek V4.1 Flash этот разрыв достигает еще больших значений.

При выборе провайдера для сравнения с самохостингом критически важно учитывать политику сохранения данных. Мы используем эндпоинты с политикой Zero Data Retention (ZDR), которые гарантируют, что ваши промпты и ответы не сохраняются. Также стоит учитывать точность моделей: провайдеры могут использовать разные форматы квантования (от fp4 до bf16), что влияет как на скорость, так и на качество ответов.

Self-hosted LLM vs API: Когда самохостинг окупается

Реальные затраты на рабочих нагрузках

Чтобы получить объективную картину, мы протестировали две типичные сценария использования с enforced ZDR (принудительным сохранением нулевой политики данных):

  1. Чат над документом: Модель обрабатывает документ объемом 5k токенов и отвечает на вопросы. Здесь высока доля кэшированных входных токенов.
  2. Агент с длинным контекстом: Многошаговый агент (8 ходов) с контекстом 60k токенов. В этом сценарии модель тратит много токенов на «размышления» (reasoning) и постоянно переотправляет весь контекст.

Результаты показали, что для модели DeepSeek V4.1 Flash стоимость за 1 миллион выходных токенов составила около $0.85–$0.88, а для Qwen3.8 27B — $2.32–$2.77. Эти цифры учитывают все входные токены, включая кэшированные, и отражают реальную стоимость использования модели через API в сложных условиях.

03Сколько стоит запустить LLM самостоятельно?

При оценке стоимости самохостинга мы не арендовали GPU для этого теста, а использовали опубликованные бенчмарки и цены на аренду. Это позволяет оценить теоретический минимум затрат, но требует осторожности в интерпретации.

Рассмотрим три типичных сценария:

  1. DeepSeek V4.1 Flash на 4x H200: Мощная конфигурация для больших моделей. Стоимость аренды варьируется в зависимости от провайдера (InferenceX, RunPod).
  2. DeepSeek V4.1 Flash на 2x B200: Еще более мощная конфигурация. Стоимость аренды также варьируется в зависимости от провайдера.
  3. Qwen3.8 27B на 1x RTX 3090: Более доступный вариант. Аренда стоит около $0.50 в час. Если же у вас уже есть эта карта, то затраты составляют лишь электроэнергию — около $0.05 в час (при потреблении 250 Вт и тарифе $0.20 за кВт·ч).

Важно понимать, что пропускная способность (throughput) измеряется на одну GPU. Для агентов, которые проводят много времени в фазе префиллинга (prefill), скорость генерации ответа на одного пользователя может быть ниже общих показателей. Например, RTX 3090 обеспечивает около 15 токенов в секунду на пользователя, что может быть медленно для интерактивного чата.

04Когда самохостинг окупается?

Сопоставив стоимость аренды GPU и

Источник: OpenRouter ↗