shap

Объясняет и проверяет предсказания ML-моделей с помощью SHAP. Подходит для выбора объяснителей, вычисления атрибутов признаков и создания локальных или глобальных визуализаций.

KDK-Dense official Данные ★ 47.7k

Что делает навык

Skill объясняет, как обученная предсказательная модель отображает входные данные на выходные значения, используя современный API shap.Explanation. Он позволяет явно указывать объясняемый выход и фоновое распределение, а также валидировать каждое объяснение перед интерпретацией.

Когда применять

  • Выбор подходящего объяснителя (explainer) для фиксированной модели.
  • Вычисление атрибутов признаков (SHAP values) для набора данных.
  • Создание локальных или глобальных визуализаций поведения модели.
  • Проверка аддитивности объяснений (base_values + values.sum) на соответствие точному выходу модели.

Как работает

  1. Использовать объект shap.Explanation и метод explainer(X), избегая использования SHAP как замены валидации предсказаний.
  2. Явно указать объясняемый выход (например, регрессия, вероятность, logit) и выбрать фоновые строки из соответствующей обучающей или эталонной выборки.
  3. Для многовыходных моделей выбрать один выход перед построением табличных графиков, используя индекс выхода.
  4. Проверить аддитивность: убедиться, что base_values + sum(values) совпадает с точным выходом модели для объясняемой строки.
  5. Не игнорировать ошибки аддитивности до проверки формы входных данных, препроцессинга, версии модели и порядка строк.
  6. Не загружать ненадежные артефакты (pickle, joblib), так как они могут выполнять код при десериализации.

Примеры запросов агенту

Объясни предсказания моей модели с помощью shap.Explanation, явно указав, что мы работаем с вероятностью.
Проверь аддитивность SHAP-атрибутов для моих данных и убедись, что они сходятся с выходом модели.
Построй глобальную визуализацию важности признаков для фиксированной модели, используя фоновое распределение из обучающей выборки.

Что понадобится

  • Python 3.12 или новее
  • SHAP 0.52.0
  • NumPy 2.5.3, pandas 3.0.6, scikit-learn 1.9.1, matplotlib 3.11.2 (для проверенных примеров)

Описание составлено по SKILL.md навыка, сверено 08.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «shap» из репозитория: # https://github.com/k-dense-ai/scientific-agent-skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r shap/ ~/.claude/skills/shap/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.