AIKraft/AI/Войти
AIKraft/Skills/TileGym: monkey patch ядер в Transformers

TileGym: monkey patch ядер в Transformers

Integrate TileGym kernels into Hugging Face `transformers` models by replacing the library's submodule(s) and certain class(es)' implementations, and patching certain class(es)' init/forward/load weight methods prior to instantiating models. Used when the user requires integrating TileGym kernels into `transformers` models.

nvidia official Другое

Что делает навык

Навык обеспечивает интеграцию производительных ядер cuTile из проекта TileGym в модели Hugging Face transformers методом monkey-patching (замены подмодулей и методов) без изменения исходного кода библиотеки. Он решает задачу валидации функциональной корректности и повышения производительности обучения и вывода LLM за счет замены стандартных компонентов на реализации TileGym.

Когда применять

  • Интеграция существующих ядер TileGym в целевые модели Hugging Face для проверки производительности.
  • Автоматическое создание новых ядер cuTile для участков кода PyTorch, не покрытых существующими ядрами.
  • Оптимизация сквозной пропускной способности (end-to-end throughput) моделей LLM через улучшение покрытия ядрами.
  • Валидация функциональной корректности и производительных улучшений при замене компонентов модели.

Как работает

  1. Подготовить экспериментальную среду, следуя инструкциям из файла environment-setup.md.
  2. Интегрировать существующие ядра TileGym в целевую модель, следуя инструкциям из файла kernel-integration.md.
  3. Автоматически создавать новые ядра cuTile для непокрытого кода PyTorch, следуя инструкциям из файла auto-kernelize.md.
  4. Добавлять новые ядра cuTile с учетом заданных ограничений.
  5. Продолжать цикл авто-исследования до выполнения условий остановки auto-kernelize loop.
  6. Подвести итоги и подготовить отчет (Summarize and report).

Примеры запросов агенту

Пожалуйста, примени /monkey-patch-kernels-to-transformers к модели Qwen/Qwen3.5-0.8B.
Интегрируй ядра TileGym в модель Hugging Face с помощью monkey-patching.
Запусти процесс авто-создания ядер cuTile для непокрытого кода PyTorch в указанной модели.

Что понадобится

  • Файлы environment-setup.md, kernel-integration.md, auto-kernelize.md из репозитория
  • Библиотека Hugging Face transformers
  • Проект TileGym с доступными ядрами cuTile

Описание составлено по SKILL.md навыка, сверено 05.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «tilegym-monkey-patch-kernels-to-transformers» из репозитория: # https://github.com/nvidia/skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r tilegym-monkey-patch-kernels-to-transformers/ ~/.claude/skills/tilegym-monkey-patch-kernels-to-transformers/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.