v0.14.2patch
Выпуск SkyPilot v0.14.2 — стандартное обновление версии без указания новых функций или исправлений.
- Выпущена версия 0.14.2.
skypilot-org/skypilot
Запускай, управляй и масштабируй AI-нагрузки на любой AI-инфраструктуре. Используй одну систему для доступа и управления всеми AI-вычислениями (Kubernetes, Slurm, 20+ облаков, on-prem).
LLMOps⭐ 10 798Pythonпоследний релиз: v0.14.2
Что это за инструмент
SkyPilot — это система для запуска, управления и масштабирования AI-нагрузок через единый интерфейс, поддерживающий Kubernetes, Slurm и более 20 облачных провайдеров.
Зачем нужен
Инструмент решает проблему разрозненности AI-инфраструктуры, предоставляя AI-командам простой интерфейс для запуска задач, а инфраструктурным командам — единый контрольный план с умным планировщиком. Он позволяет автоматически выбирать наиболее доступные и выгодные ресурсы (GPU, TPU, CPU) и управлять ими без изменения кода.
Что можно реализовать
- Запуск LLM-инференса и обучения моделей с автоматическим переключением между облаками при нехватке GPU
- Управление кластерами Kubernetes с использованием Slurm-подобного опыта (gang scheduling, автоостановка)
- Параллельное выполнение экспериментов (например, Autoresearch) на множестве GPU без ручного оркестрования
- Безопасный запуск недоверенного кода, сгенерированного LLM, в изолированных SkyPilot Sandboxes
Ключевые возможности
- Поддержка 20+ облаков (AWS, GCP, Azure, CoreWeave, RunPod и др.) и локальных кластеров (Kubernetes, Slurm)
- Автоматический бинпакинг (binpacking) и автоостановка (autostop) для максимизации утилизации GPU
- Интеграция с AI-агентами через SkyPilot Skill для управления задачами и доступом к GPU
- Единый интерфейс для резервирования GPU, шаринга ресурсов и масштабирования кластеров
- Поддержка гибкого провижининга с умным failover между разными типами железа
👤 Кому подойдёт: AI-команды (ML-инженеры, исследователи), инфраструктурные команды (DevOps, SRE), управляющие гибридными или мультиоблачными кластерами GPU
Релизы
v0.14.1patch
Выпуск SkyPilot v0.14.1, включающий изменения от версии 0.14.0 и последующие исправления.
- Релиз версии 0.14.0.
- Релиз версии 0.14.1.
v0.14.0majorbreaking
SkyPilot v0.14.0: динамические группы задач, многопользовательский Slurm, поддержка AWS Neuron и отказ от Conda по умолчанию.
- Added: Появились динамические группы задач: запущенная задача может создавать новые управляемые задачи, которые автоматически прикрепляются к группе.
- Added: Slurm теперь поддерживает многопользовательский режим с отправкой задач от имени аутентифицированного пользователя и настройками QoS.
- Added: Добавлена поддержка AWS Trainium/Inferentia (Neuron) на базе Kubernetes.
- Deprecated: Conda больше не устанавливается по умолчанию; в образах Kubernetes используется системный Python и виртуальное окружение пользователя.
- Breaking: Ужесточена авторизация API: эндпоинты ограничены пользователем, а команда debug-dump доступна только администраторам.
v0.14.0rc1minor
Исправления стабильности Jobs и Kubernetes, улучшение Dashboard и тестов, отказ от Conda в K8s.
- Fixed: Kubernetes: теперь провайзинг завершается ошибкой при проблемах с PersistentVolume, а не зависает.
- Fixed: Jobs: задачи помечаются как завершенные с ошибкой, если пул больше не существует; исправлена работа с transient-ошибками статуса кластера.
- Fixed: Kubernetes: отключена автоматическая установка Conda по умолчанию и удалена она из базовых образов.
- Added: Dashboard: обновлен дизайн страницы инфраструктуры, улучшена видимость вкладки и редактор YAML.
- Fixed: Core: улучшена обработка отсутствующего Git, ~/.bashrc и блокировок Postgres, а также стабильность сбора метрик.
v0.13.2rc1patch
Исправления Kubernetes, Jobs и Dashboard; улучшена стабильность и отладка.
- Fixed: Kubernetes: теперь отображаются реальные запросы ресурсов подов и корректная обработка сбоев монтов.
- Fixed: Jobs: исправлено поведение при восстановлении, завершении пулов и мониторинге статуса кластера.
- Fixed: Dashboard: обновлен дизайн, иконки и переработана страница инфраструктуры.
- Fixed: Core: улучшена обработка ошибок Git, Bash и блокировок PostgreSQL.
- Added: RunPod: SSH-ключи теперь помечаются именем пользователя SkyPilot.
v0.13.1rc1patch
Исправление Azure, улучшенная работа с Kubernetes и доработки Dashboard для управляемых задач.
- Fixed: Исправлена ошибка выделения сетевых интерфейсов в Azure, вызванная обновлением azure-mgmt-network.
- Added: Добавлена поддержка прикрепления существующих PVC (storage.existingClaim) в Kubernetes.
- Added: Улучшена работа Dashboard: добавлены фильтры, счетчик восстановлений задач и корректный рендеринг ошибок.
- Fixed: Исправлено сопоставление регионов и дата-центров для RunPod, а также стабильность тестов.
- Added: Добавлена возможность потоковой передачи логов управляемых задач при наличии logging agent.
v0.13.0majorbreaking
SkyPilot v0.13.0: Sky Batch, хранилище Hugging Face, хуки жизненного цикла, лимиты стоимости и поддержка GPU Blackwell.
- Added: Добавлен Sky Batch для масштабного пакетного вывода и обработки данных с автоматическим распределением по пулу воркеров.
- Added: Появилась нативная поддержка хранилища Hugging Face через схему hf:// для чтения и записи бакетов, а также монтирования репозиториев.
- Added: Внедрена обобщённая система хуков жизненного цикла (lifecycle-hooks) для выполнения произвольной логики при событиях кластера.
- Added: Добавлена команда sky debug-dump для сбора диагностической информации в один архив и поддержка GPU NVIDIA Blackwell.
- Breaking: Параметр api_access переименован в api_server_access, а ключ all_includes_in_cluster удалён из схемы конфигурации.
v0.12.3.post1patch
Выпуск SkyPilot v0.12.3.post1 — корректирующая версия, исправляющая предыдущий релиз.
- Выпущена корректирующая версия 0.12.3.post1.