AIKraft/AI/Войти
AIKraft/Skills/huggingface zerogpu

huggingface zerogpu

AI demos and GPU compute with Gradio Spaces and Hugging Face Spaces ZeroGPU. Use when writing or reviewing code that uses `@spaces.GPU`, configuring `python_version` or `requirements.txt` for a ZeroGPU Space, or handling ZeroGPU-specific code constraints — pickle-based process isolation, `gr.State` semantics across the worker boundary, no `torch.compile` (use AoTI instead), CUDA wheel-only build

HFHugging Face official Документы

Что делает навык

Навык предоставляет правила и паттерны для создания ML-демо на Hugging Face Spaces с использованием аппаратного ускорения ZeroGPU. Он охватывает настройку декоратора @spaces.GPU, управление квотами и длительностью, изоляцию процессов, модель доступности CUDA и ограничения сборки CUDA-зависимых пакетов.

Когда применять

  • Написание или проверка кода Gradio-приложений, использующих декоратор @spaces.GPU для выполнения вычислений на GPU.
  • Настройка параметров python_version и requirements.txt для корректной работы с ZeroGPU, включая пинг torch side-cars.
  • Отладка проблем с холодным стартом, повторным использованием воркеров или зависаниями при возврате CUDA-тензоров.
  • Выбор значений duration для устранения ошибок 'illegal duration' или 'quota exceeded' и оптимизации использования квот.
  • Установка CUDA-зависимых пакетов (например, flash-attn) с учетом ограничений сборок и изоляции процессов на основе pickle.

Как работает

  1. Определить, что задача относится к Gradio SDK Spaces, так как Docker, Static и Streamlit Spaces не поддерживают ZeroGPU.
  2. Изучить справочные файлы (concurrency.md, how-zerogpu-works.md, how-quota-works.md, cuda-and-deps.md) в зависимости от контекста задачи.
  3. Настроить декоратор @spaces.GPU, указав необходимые параметры длительности и учитывая параллельное выполнение обработчиков.
  4. Убедиться в корректности установки зависимостей, соблюдая правила изоляции процессов и избегая использования torch.compile.
  5. Проверить совместимость версий CUDA и библиотек, используя информацию из cuda-and-deps.md для сборки или выбора колес.

Примеры запросов агенту

Как правильно настроить @spaces.GPU для Gradio Space, чтобы избежать ошибок превышения квоты?
Почему мой код зависает при возврате тензоров из функции с декоратором @spaces.GPU?
Какие зависимости нужно добавить в requirements.txt для работы flash-attn на ZeroGPU?

Что понадобится

  • Доступ к документации Hugging Face ZeroGPU (https://huggingface.co/docs/hub/spaces-zerogpu)
  • Знание основ Gradio SDK
  • Понимание особенностей работы с CUDA и GPU в облачных средах

Описание составлено по SKILL.md навыка, сверено 05.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «huggingface-zerogpu» из репозитория: # https://github.com/huggingface/skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r huggingface-zerogpu/ ~/.claude/skills/huggingface-zerogpu/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.