Архитектура и масштаб
Kimi K3 стала первым в мире открытым ИИ-моделью класса 3T (триллион параметров). Модель построена на базе 2.8 триллионов параметров и использует две ключевые архитектурные инновации: Kimi Delta Attention (KDA) и Attention Residuals (AttnRes). Эти изменения улучшили поток информации через длину последовательности и глубину модели.
Важной особенностью является использование Stable LatentMoE с высокой степенью разреженности: из 896 экспертов активируется только 16. В сочетании с Gated MLA это дало прирост эффективности масштабирования примерно в 2.5 раза по сравнению с предыдущей версией Kimi K2, позволяя эффективнее конвертировать вычислительные мощности в интеллект.
Бенчмарки и сравнения
Хотя Kimi K3 пока уступает самым мощным проприетарным моделям (Claude Fable 5 и GPT 5.6 Sol) в общих тестах, она демонстрирует результаты уровня frontier в специфических задачах. Ниже приведены результаты в ключевых категориях:
| Категория | Модель | Результат / Статус |
|---|---|---|
| Оптимизация GPU-ядер | Kimi K3 | Конкурентоспособно с Claude Fable 5, значительно лучше GPT 5.6 Sol и Opus 4.8 |
| Разработка компилятора (MiniTriton) | Kimi K3 | Производительность на уровне Triton/torch.compile; стабильное обучение nanoGPT |
| Длинный контекст | Kimi K3 | 1 000 000 токенов (нативная поддержка) |
| Автономные исследования | Kimi K3 | 2 часа вместо 1-2 недель работы исследователя (репродукция I–Love–Q) |
Автономное программирование и инженерия
Kimi K3 демонстрирует выдающиеся способности к long-horizon coding (долгосрочному программированию). В тесте на оптимизацию GPU-ядер модель самостоятельно профилировала, переписывала и бенчмаркала задачи в течение 24 часов.
Более того, модель смогла создать с нуля компилятор MiniTriton — систему программирования GPU с собственным IR-уровнем, оптимизационными проходами и генерацией PTX-кода. MiniTriton показал производительность, сопоставимую с Triton, и выдержал стабильное обучение модели nanoGPT.
Визуальный интеллект и креатив
Модель обладает нативными визуальными способностями. В кейсе разработки игр Kimi K3 создала полноценную 3D-игру в браузере с процедурной генерацией мира (леса, деревни, погода) и анимацией, используя Three.js WebGPU. Модель работает в режиме "vision in the loop", анализируя скриншоты и мгновенно корректируя код.
Дизайн чипов и наука
В беспрецедентном для ИИ эксперименте Kimi K3 за 48 часов автономной работы спроектировала, оптимизировала и верифицировала чип для запуска собственной архитектуры. Чип (Nangate 45nm) занимает 4 мм², работает на частоте 100 МГц и обеспечивает пропускную способность более 8,700 токенов/с.
В научной сфере модель за 2 часа воспроизвела сложные вычисления в астрофизике (уравнения состояния I–Love–Q), проанализировав 20+ статей и создав интерактивный дашборд, на что у человека ушло бы до двух недель.
Доступность и релиз
Модель уже доступна через Kimi.com, Kimi Work, Kimi Code и API. По умолчанию используется максимальный уровень размышлений (max thinking effort). Полные веса модели (weights) будут опубликованы 27 июля 2026 года вместе с техническим отчетом.
Источник: Kimi ↗