AIKraft Agents
Главная/Блог/Гайд/NVIDIA Run:ai Open Source: Полное…
Гайд4 мин чтения · 19 октября 2026 г.

NVIDIA Run:ai Open Source: Полное руководство по оркестровке GPU в Kubernetes

NVIDIA открыла исходный код своей платформы Run:ai. Разбираем, как это меняет управление GPU-кластерами, локальную разработку и сравнение с другими планировщиками.

NVIDIA Run:ai Open Source: Полное руководство по оркестровке GPU в Kubernetes

Долгое время NVIDIA Run:ai оставалась «черным ящиком» для многих инженеров машинного обучения. Это была мощная, но коммерческая платформа, которая решала сложные задачи оркестрации GPU-кластеров, скрывая за собой платную подписку и закрытый код. Однако недавно NVIDIA совершила шаг, который может стать поворотным моментом для всей экосистемы AI-инфраструктуры: платформа была полностью открыта под лицензией Apache 2.0. Теперь исходный код доступен на GitHub, что позволяет командам не только использовать, но и модифицировать, форкать и самостоятельно хостить стек без необходимости платить за лицензию.

Это не просто релиз нового инструмента, а интеграция Run:ai в платформу NVIDIA DSX AI Factory. Для команд, отвечающих за инфраструктуру (platform teams), это открывает беспрецедентные возможности: полная прозрачность, возможность аудита безопасности и гибкая настройка под специфические нужды предприятия. В этой статье мы подробно разберем архитектуру нового open-source решения, его компоненты, особенности локальной разработки и то, как он соотносится с другими популярными планировщиками в мире Kubernetes.

01Что такое NVIDIA Run:ai и зачем он нужен?

Чтобы понять масштаб изменений, нужно сначала вспомнить, что такое NVIDIA Run:ai. Это платформа для оркестрации рабочих нагрузок ИИ и управления GPU, построенная поверх Kubernetes. Важно подчеркнуть: Run:ai не заменяет Kubernetes. Он работает поверх него, добавляя слой интеллектуального управления ресурсами, который стандартный Kubernetes «из коробки» не предоставляет в таком объеме.

Основная проблема, которую решает Run:ai, — это эффективное распределение дорогих GPU-ресурсов между множеством пользователей. В типичной среде ML-инженеры, исследователи и DevOps-специалисты конкурируют за доступ к видеокартам. Без специального планировщика это приводит к простоям, фрагментации памяти и неэффективному использованию кластера. Run:ai берет на себя управление жизненным циклом рабочих нагрузок: от отправки задач до мониторинга и управления ресурсами.

Архитектурно платформа состоит из двух основных частей. Control Plane (плоскость управления) отвечает за подачу рабочих нагрузок, глобальное управление ресурсами и мониторинг. Cluster Services (сервисы кластера) разворачиваются непосредственно на каждом кластере Kubernetes и обеспечивают «GPU-aware» планирование, то есть планирование, которое понимает архитектуру GPU, их топологию и ограничения памяти. Доступ к платформе осуществляется через несколько интерфейсов: веб-интерфейс (UI), командную строку (CLI), REST API и, что особенно интересно для современной экосистемы AI, через MCP-сервер для интеграции с AI-ассистентами.

NVIDIA Run:ai Open Source: Полное руководство по оркестровке GPU в Kubernetes

02Четыре модульных компонента новой архитектуры

Одним из самых значимых изменений в open-source релизе является модульность. NVIDIA разделила платформу на четыре независимых компонента, которые команды могут внедрять по отдельности, в зависимости от своих потребностей. Это снижает порог входа и позволяет не тащить на борту весь тяжеловесный стек, если нужен только один функционал.

1. KAI Scheduler

Это ядро системы — нативный для Kubernetes планировщик. Он является частью CNCF Sandbox и распространяется под лицензией Apache 2.0. KAI Scheduler поддерживает продвинутые функции, критичные для ИИ-нагрузок:

  • Gang Scheduling: Гарантирует, что задача запустится только тогда, когда все необходимые для нее ресурсы (например, все GPU для распределенного обучения) доступны. Если ресурсов не хватает, задача ждет, предотвращая частичные запуски, которые часто приводят к ошибкам.
  • Time-based fair-share: Справедливое распределение времени использования GPU между пользователями или командами.
  • Topology awareness: Учет физической топологии GPU (например, связь через NVLink), что критично для производительности распределенных вычислений.
  • Bin-packing и DRA: Эффективное размещение задач и поддержка Device Resource Allocation.

2. GPU Fractioning Operator

Ранее NVIDIA использовала проприетарные методы дробления GPU. В новом open-source релизе они перешли на нативное решение, основанное на CUDA 13.4. Этот оператор позволяет делить GPU на части (MIG-подобные функции, но более гибкие) прямо в Kubernetes. Ключевая особенность — драйвер CUDA устанавливает жесткое ограничение памяти для каждой рабочей нагрузки. Это предотвращает ситуацию, когда одна «прожорливая» задача выедает всю память GPU, оставляя другие задачи без ресурсов. Оператор не зависит от конкретного планировщика и экспортирует метрики использования по каждому подовому контейнеру.

NVIDIA Run:ai Open Source: Полное руководство по оркестровке GPU в Kubernetes

3. KAI Resource Management

Этот компонент добавляет бизнес-логику в управление инфраструктурой. Он позволяет создавать проекты, отделы, устанавливать квоты и управлять пулами узлов. Например, можно гарантировать, что значительная часть мощности кластера всегда зарезервировано для команды исследований, а остальные ресурсы доступны для экспериментальных задач. Это решает проблему «трагедии общины», когда ресурсы используются хаотично.

4. Workload Map

Это библиотека на языке Go, которая описывает типы рабочих нагрузок, такие как PyTorchJob, RayCluster или сервисы KServe. Важно отметить, что Workload Map не занимается планированием, очередями или автоскейлингом. Его задача — семантическое описание задачи, чтобы другие компоненты системы понимали, с чем они имеют дело. Он работает офлайн, что упрощает интеграцию в CI/CD пайплайны.

03Локальная разработка: как запустить Run:ai у себя на машине

Одной из самых больших проблем при работе с корпоративными AI-платформами всегда была сложность локального тестирования. Обычно требовался доступ к полноценному кластеру. NVIDIA кардинально упростила этот процесс. Для локальной разработки теперь достаточно одного скрипта local-dev.sh.

Источник: MarkTechPost ↗