NeMo Automodel: разработка рецептов

Что делает навык

Навык обеспечивает разработку и конфигурацию рецептов обучения NeMo AutoModel через YAML-файлы, управляя построением компонентов (моделей, оптимизаторов, датасетов) и порядком их применения. Он решает задачу создания воспроизводимых пайплайнов обучения, валидации и сохранения чекпоинтов с поддержкой CLI-переопределений.

Когда применять

• Создание нового варианта дообучения (finetuning) на основе существующего рецепта с изменением параметров модели, оптимизатора или планировщика обучения.
• Настройка интервалов валидации и сохранения чекпоинтов через параметры step_scheduler и validation_dataset.
• Конфигурация прецизионности обучения (например, float32 для AdamW) и распределенных стратегий (FSDP2, Megatron-FSDP) внутри YAML.
• Восстановление обучения из сохраненного чекпоинта с использованием ключа restore_from.path.

Как работает

1. Определите структуру YAML, указав _target_ для каждого компонента (модель, оптимизатор, датасет) и передав остальные ключи как аргументы.
2. Настройте step_scheduler, задав max_steps, num_epochs, val_check_interval и checkpoint_interval для управления циклом обучения.
3. Укажите порядок применения инфраструктуры (PEFT, квантование, sharding) через соответствующие блоки конфигурации.
4. Запустите рецепт через CLI командой automodel <config.yaml>, используя флаги для переопределения значений (например, --optimizer.lr).
5. Проверьте конфигурацию локально с помощью CPU-совместимого теста или валидации перед запуском на GPU.

Примеры запросов агенту

Что понадобится

• Установленный пакет nemo_automodel и доступ к репозиторию NVIDIA NeMo
• Команда CLI automodel для запуска рецептов
• YAML-парсер для валидации структуры конфигурации

Описание составлено по SKILL.md навыка, сверено 05.10.2026.

Как подключить

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.