modal

Modal — серверлесс-платформа для запуска Python и GPU-задач. Используйте для деплоя AI/ML моделей, обучения, инференса, запуска веб-эндпоинтов и пакетных заданий через Modal SDK.

KDK-Dense official Разработка ★ 47.7k

Что делает навык

Modal — серверлесс-платформа для запуска Python-кода и GPU-задач в облаке, позволяющая деплоить AI/ML модели, создавать веб-эндпоинты и выполнять пакетные задания. Skill обеспечивает управление контейнерами, GPU-вычислениями, постоянным хранилищем и автоматическим масштабированием через Modal SDK.

Когда применять

  • Деплой и обслуживание AI/ML моделей в виде серверлесс API или веб-эндпоинтов.
  • Запуск GPU-ускоренных вычислений для обучения, инференса или тонкой настройки моделей.
  • Создание параллельных пакетных заданий и очередей задач с автоматическим масштабированием.
  • Планирование периодических задач (ETL, переобучение, скрейпинг) через cron или интервалы.
  • Исполнение ненадежного или динамически сгенерированного кода в изолированных песочницах (Sandboxes).

Как работает

  1. Настроить аутентификацию, используя существующий профиль, переменные MODAL_TOKEN_ID/MODAL_TOKEN_SECRET или команду modal setup.
  2. Определить App и Functions в Python, указав необходимые ресурсы (CPU, память, GPU) и образ контейнера (Image) с зависимостями.
  3. При необходимости подключить постоянное хранилище (Volumes) для весов моделей или данных, используя методы commit/reload.
  4. Для веб-интерфейсов использовать декоратор @modal.fastapi_endpoint() и развернуть приложение через modal deploy.
  5. Запускать функции удаленно (remote), в параллельном режиме (map) или как периодические задачи (schedule).
  6. Для изолированного выполнения кода создавать Sandbox-контейнеры с помощью modal.Sandbox.create().

Примеры запросов агенту

Разверни модель GPT-2 на GPU L40S в виде FastAPI эндпоинта через Modal.
Запусти параллельный инференс для списка из 100 промптов, используя GPU H100.
Создай скрипт для ежедневного переобучения модели в 9 утра UTC с сохранением весов в Volume.

Что понадобится

  • Установленный пакет modal (версия 1.6.0 или новее).
  • Аутентификация через профиль .modal.toml или переменные MODAL_TOKEN_ID и MODAL_TOKEN_SECRET.
  • Оплата и лимиты рабочего пространства (GPU требуют привязки платежного метода).

Описание составлено по SKILL.md навыка, сверено 08.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «k-dense-ai-modal» из репозитория: # https://github.com/k-dense-ai/scientific-agent-skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r k-dense-ai-modal/ ~/.claude/skills/k-dense-ai-modal/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.