Открытые веса против проприетарных гигантов
Компания Moonshot AI сделала резкий ход на рынке ИИ, опубликовав веса своей новой модели Kimi K3. Это не просто еще одна нейросеть, а прямой вызов лидерам индустрии — OpenAI (GPT-5.6 Sol) и Anthropic (Claude Fable). В отличие от закрытых аналогов, Kimi K3 доступна для свободного использования, что позволяет любому владельцу GPU развернуть модель и создать на ее основе коммерческий продукт с минимальными ограничениями.
Экономическая эффективность и цены
Главное преимущество Kimi K3 — радикальное снижение стоимости инференса. Модель использует гибридную архитектуру с активацией лишь 104,2 млрд параметров из 2,8 триллионов, а также специфические форматы данных MXFP4 и MXFP8. Это позволяет запускать модель даже на относительно бюджетных чипах, таких как Nvidia H20, без потери производительности. Ниже приведено сравнение цен на ввод токенов (input) по данным Moonshot:
| Модель | Цена за 1 млн токенов (Input) | Примечание |
|---|---|---|
| Kimi K3 (Moonshot AI) | $3.00 | До $0.30 при 90% попадании в кэш (код) |
| Claude Fable (Anthropic) | $10.00 | Стандартная цена |
| GPT-5.6 Sol (OpenAI) | $5.00 | Стандартная цена |
Технические инновации: Kimi Delta Attention
Экономия ресурсов достигается за счет отказа от традиционного расширяющегося ключ-значения (KV) хранилища. Вместо этого Kimi K3 использует фиксированный обработчик состояния Kimi Delta Attention, что экономит VRAM и время выполнения. Архитектура Mixture-of-Experts (MoE) также оптимизирована: из 896 экспертов одновременно активируется всего 16. Это делает модель «легче» для запуска в 2-3 раза по сравнению с фронтьер-моделями, а при частом использовании кэша экономия может достигать 10x.
Почему это важно для рынка
Публикация весов Kimi K3 размывает монополию крупных игроков. Теперь компании с доступом к современным GPU могут развернуть локальные решения, сопоставимые по качеству с GPT-5.6, но с гораздо меньшими операционными расходами. Важно отметить, что модель является open-weight, а не open-source: обучающие данные и процесс обучения остаются коммерческой тайной Moonshot AI. Однако сам факт того, что «бесплатное» ПО почти не уступает платным аналогам, меняет правила игры в корпоративном секторе ИИ.
Источник: Tom's Hardware ↗