NeMo mBridge: рекомендатель рецептов

Что делает навык

Skill индексирует рецепты Megatron Bridge и рекомендует оптимальные конфигурации для обучения (pretrain, SFT, PEFT) или бенчмарков на основе модели, количества GPU и цели. Он помогает выбрать функцию рецепта, команду запуска и настроить параллелизм, избегая типичных ошибок.

Когда применять

• Выбор стартового рецепта для обучения модели (pretrain, SFT или PEFT) с учетом количества доступных GPU.
• Настройка параметров параллелизма (TP, PP, CP, EP) для предотвращения ошибок OOM и оптимизации производительности.
• Запуск smoke-теста или бенчмарка пропускной способности с использованием mock-данных или специфичных аппаратных конфигураций.
• Разделение настроек сходимости (convergence) и производительности (execution) для корректного валидирования изменений.

Как работает

1. Запросить у пользователя название/размер модели, количество и тип GPU, цель обучения (pretrain/SFT/PEFT) и длину последовательности.
2. Найти подходящий рецепт в индексе (references/recipe-index.md) или выбрать ближайший аналог с корректировкой параллелизма.
3. Предложить имя функции рецепта и команду запуска (scripts/training/run_recipe.py для обучения или train.sh для бенчмарков).
4. Дать советы по настройке параллелизма (правила TP, PP, EP, SP, CP) и размера батча (micro_batch_size, global_batch_size).
5. Предупредить о типичных ошибках (например, TP > num_kv_heads) и различиях между библиотекой рецептов и perf_recipes.

Примеры запросов агенту

Что понадобится

• Репозиторий NVIDIA Skills (Megatron Bridge) с доступом к файлам recipes и perf_recipes.
• Среда выполнения Python с uv и torch.distributed для запуска скриптов.
• Slurm-кластер или локальная среда с GPU для запуска скриптов train.sh или run_recipe.py.

Описание составлено по SKILL.md навыка, сверено 05.10.2026.

Как подключить

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.