skypilot-org/skypilot

Запускай, управляй и масштабируй AI-нагрузки на любой AI-инфраструктуре. Используй одну систему для доступа и управления всеми AI-вычислениями (Kubernetes, Slurm, 20+ облаков, on-prem).

LLMOps⭐ 10 625Pythonпоследний релиз: v0.13.2rc1

Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

SkyPilot — это система для запуска, управления и масштабирования AI-нагрузок через единый интерфейс, поддерживающий Kubernetes, Slurm и более 20 облачных провайдеров.

Зачем нужен

Инструмент решает проблему разрозненности AI-инфраструктуры, предоставляя AI-командам простой интерфейс для запуска задач, а инфраструктурным командам — единый контрольный план с умным планировщиком. Он позволяет автоматически выбирать наиболее доступные и выгодные ресурсы (GPU, TPU, CPU) и управлять ими без изменения кода.

Что можно реализовать

Запуск LLM-инференса и обучения моделей с автоматическим переключением между облаками при нехватке GPU
Управление кластерами Kubernetes с использованием Slurm-подобного опыта (gang scheduling, автоостановка)
Параллельное выполнение экспериментов (например, Autoresearch) на множестве GPU без ручного оркестрования
Безопасный запуск недоверенного кода, сгенерированного LLM, в изолированных SkyPilot Sandboxes

Ключевые возможности

Поддержка 20+ облаков (AWS, GCP, Azure, CoreWeave, RunPod и др.) и локальных кластеров (Kubernetes, Slurm)
Автоматический бинпакинг (binpacking) и автоостановка (autostop) для максимизации утилизации GPU
Интеграция с AI-агентами через SkyPilot Skill для управления задачами и доступом к GPU
Единый интерфейс для резервирования GPU, шаринга ресурсов и масштабирования кластеров
Поддержка гибкого провижининга с умным failover между разными типами железа

👤 Кому подойдёт: AI-команды (ML-инженеры, исследователи), инфраструктурные команды (DevOps, SRE), управляющие гибридными или мультиоблачными кластерами GPU

Релизы

v0.13.2rc1patch

🕐 2 дн назад · релиз на GitHub ↗

Исправления Kubernetes, Jobs и Dashboard; улучшена стабильность и отладка.

Fixed: Kubernetes: теперь отображаются реальные запросы ресурсов подов и корректная обработка сбоев монтов.
Fixed: Jobs: исправлено поведение при восстановлении, завершении пулов и мониторинге статуса кластера.
Fixed: Dashboard: обновлен дизайн, иконки и переработана страница инфраструктуры.
Fixed: Core: улучшена обработка ошибок Git, Bash и блокировок PostgreSQL.
Added: RunPod: SSH-ключи теперь помечаются именем пользователя SkyPilot.

v0.13.1rc1patch

🕐 1 мес назад · релиз на GitHub ↗

Исправление Azure, улучшенная работа с Kubernetes и доработки Dashboard для управляемых задач.

Fixed: Исправлена ошибка выделения сетевых интерфейсов в Azure, вызванная обновлением azure-mgmt-network.
Added: Добавлена поддержка прикрепления существующих PVC (storage.existingClaim) в Kubernetes.
Added: Улучшена работа Dashboard: добавлены фильтры, счетчик восстановлений задач и корректный рендеринг ошибок.
Fixed: Исправлено сопоставление регионов и дата-центров для RunPod, а также стабильность тестов.
Added: Добавлена возможность потоковой передачи логов управляемых задач при наличии logging agent.

v0.13.0majorbreaking

🕐 2 мес назад · релиз на GitHub ↗

SkyPilot v0.13.0: Sky Batch, хранилище Hugging Face, хуки жизненного цикла, лимиты стоимости и поддержка GPU Blackwell.

Added: Добавлен Sky Batch для масштабного пакетного вывода и обработки данных с автоматическим распределением по пулу воркеров.
Added: Появилась нативная поддержка хранилища Hugging Face через схему hf:// для чтения и записи бакетов, а также монтирования репозиториев.
Added: Внедрена обобщённая система хуков жизненного цикла (lifecycle-hooks) для выполнения произвольной логики при событиях кластера.
Added: Добавлена команда sky debug-dump для сбора диагностической информации в один архив и поддержка GPU NVIDIA Blackwell.
Breaking: Параметр api_access переименован в api_server_access, а ключ all_includes_in_cluster удалён из схемы конфигурации.

v0.12.3.post1patch

🕐 3 мес назад · релиз на GitHub ↗

Выпуск SkyPilot v0.12.3.post1 — корректирующая версия, исправляющая предыдущий релиз.

Выпущена корректирующая версия 0.12.3.post1.