KD
shap
Объясняет и проверяет предсказания ML-моделей с помощью SHAP. Подходит для выбора объяснителей, вычисления атрибутов признаков и создания локальных или глобальных визуализаций.
Что делает навык
Skill объясняет, как обученная предсказательная модель отображает входные данные на выходные значения, используя современный API shap.Explanation. Он позволяет явно указывать объясняемый выход и фоновое распределение, а также валидировать каждое объяснение перед интерпретацией.
Когда применять
- Выбор подходящего объяснителя (explainer) для фиксированной модели.
- Вычисление атрибутов признаков (SHAP values) для набора данных.
- Создание локальных или глобальных визуализаций поведения модели.
- Проверка аддитивности объяснений (base_values + values.sum) на соответствие точному выходу модели.
Как работает
- Использовать объект shap.Explanation и метод explainer(X), избегая использования SHAP как замены валидации предсказаний.
- Явно указать объясняемый выход (например, регрессия, вероятность, logit) и выбрать фоновые строки из соответствующей обучающей или эталонной выборки.
- Для многовыходных моделей выбрать один выход перед построением табличных графиков, используя индекс выхода.
- Проверить аддитивность: убедиться, что base_values + sum(values) совпадает с точным выходом модели для объясняемой строки.
- Не игнорировать ошибки аддитивности до проверки формы входных данных, препроцессинга, версии модели и порядка строк.
- Не загружать ненадежные артефакты (pickle, joblib), так как они могут выполнять код при десериализации.
Примеры запросов агенту
Объясни предсказания моей модели с помощью shap.Explanation, явно указав, что мы работаем с вероятностью.
Проверь аддитивность SHAP-атрибутов для моих данных и убедись, что они сходятся с выходом модели.
Построй глобальную визуализацию важности признаков для фиксированной модели, используя фоновое распределение из обучающей выборки.
Что понадобится
- Python 3.12 или новее
- SHAP 0.52.0
- NumPy 2.5.3, pandas 3.0.6, scikit-learn 1.9.1, matplotlib 3.11.2 (для проверенных примеров)
Описание составлено по SKILL.md навыка, сверено 08.10.2026.
Как подключить
1Скачать навык
# возьмите папку навыка «shap» из репозитория:
# https://github.com/k-dense-ai/scientific-agent-skills
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r shap/ ~/.claude/skills/shap/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.