AIKraft/Skills/pytorch-fsdp2

pytorch-fsdp2

Добавляет PyTorch FSDP2 (fully_shard) в скрипты обучения: корректная инициализация, настройка шардинга, смешанная точность/выгрузка (offload) и распределенное сохранение чекпоинтов. Используйте, когда модели превышают объем памяти одной GPU или когда требуется шардинг на основе DTensor с DeviceMesh.

orchestra-research official Другое

Что делает навык

Добавляет PyTorch FSDP2 (fully_shard) в скрипты обучения: корректная инициализация, настройка шардинга, смешанная точность/выгрузка (offload) и распределенное сохранение чекпоинтов. Используйте, когда модели превышают объем памяти одной GPU или когда требуется шардинг на основе DTensor с DeviceMesh.

Как подключить

1Скачать навык
# возьмите папку навыка «pytorch-fsdp2» из репозитория: # https://github.com/orchestra-research/ai-research-skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r pytorch-fsdp2/ ~/.claude/skills/pytorch-fsdp2/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.