AIKraft/Skills/Отладка модели

Отладка модели

Debug silent corruption when a MAX model loads, compiles, serves, and generates tokens but output disagrees with a reference implementation. Use whenever parity debugging stalls on scalar taps, the model returns gibberish or wrong greedy tokens, logit cosine is high but argmax differs, or generation is coherent then diverges — during an architecture port, a quantization bring-up, a multi-GPU con

modular official Разработка

Что делает навык

Настройка протокола отладки паритета (parity) и согласованности (coherence) для моделей, работающих без ошибок, но выдающих неверный вывод. Позволяет выявлять направленные ошибки, скрываемые скалярными отладочными выводами, путем сравнения тензоров MAX с эталонной реализацией PyTorch.

Когда применять

  • Портирование пользовательской архитектуры, которая обслуживает запросы, но не проходит проверки паритета или согласованности.
  • Отладка квантованной версии модели, основанной на ранее работавшем порте.
  • Конвертация рабочей модели с одного GPU на несколько GPU (multi-GPU).
  • Восстановление работоспособности после регрессии, возникшей после обновления MAX.

Как работает

  1. Создать компаратор дампов тензоров по слоям (per-layer tensor-dump comparator).
  2. Использовать этот компаратор для получения данных в виде чтения numpy из диска, избегая скалярных ops.print и перекомпиляции циклов.
  3. Запустить модель MAX и эталонную реализацию PyTorch с возможностью хуков (hook).
  4. Сравнить выходные данные MAX с эталонным выводом PyTorch для выявления расхождений.

Примеры запросов агенту

Модель работает, но токены отличаются от эталона. Как отладить паритет?
Нужно проверить согласованность вывода после портирования архитектуры на MAX.
После обновления MAX модель выдает неверные результаты. Как найти причину?

Что понадобится

  • Доступ к эталонной реализации PyTorch, которую можно запустить и хуковать.
  • Среда выполнения MAX.

Описание составлено по SKILL.md навыка, сверено 05.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «debug-model» из репозитория: # https://github.com/modular/skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r debug-model/ ~/.claude/skills/debug-model/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.