Проблема: SHAP не всегда объясняет причинность
Современные методы объяснимого ИИ (XAI), такие как SHAP, часто приписывают важность признакам на основе их вклада в предсказание модели. Однако это не всегда отражает реальное влияние вмешательства на исход в мире. Авторы статьи из arXiv (2608.12555) подчеркивают: «Предиктивные методы объяснения атрибутируют вывод модели, но не эффект вмешательства на реальный результат».
Новый подход CAS (Causal Attribution Score) вводит слой локального и глобального каузального отчета. Он базируется на коалиционной игре с интервенциями и использует каузальный Шепли для распределения эффектов, преобразуя сырые данные в понятные метрики: Local CAS, Signed Local CAS и два типа глобальных сводок.
Результаты: CAS точнее традиционных методов
В бенчмарке с известной истиной (known-truth benchmark) исследователи провели 8 симуляций с первичными взаимодействиями (n=2,200 каждая). Метрика CAS показала значительно меньшую среднюю абсолютную ошибку (MAE) по сравнению с альтернативными подходами:
| Метод | Local CAS MAE | Примечание |
|---|---|---|
| Coalition-aware CAS | 0.107 | Основной метод CAS |
| One-at-a-time normalisation | 0.173 | Традиционный подход |
| Global normalised absolute ATE | 0.213 | Глобальный вектор эффекта |
Преимущество CAS над методом «по одному» возрастало с ростом нелинейности: при аддитивности разница составляла -0.003, а при сильных взаимодействиях — уже 0.091.
Практика: Разрыв между предсказанием и причинностью
На эмпирических данных DoubleML исследователи обнаружили существенные расхождения между рангами признаков в предиктивных моделях (SHAP/TreeSHAP) и их каузальной значимостью (Feature-CAS). Это доказывает, что то, что хорошо предсказывает результат, не обязательно является причиной его изменения.
Яркий пример — датасет по безработице в Пенсильвании (n=5,099). Признак dep1 (наличие ровно одного иждивенца):
- В глобальном предиктивном ранге SHAP занимал 13-е место.
- В ранге Feature-CAS (причинное влияние) поднялся на 2-е место и стал ведущим локальным модификатором эффекта.
Значение для индустрии
Внедрение CAS позволяет бизнесу и регуляторам отделять шум корреляций от реальных драйверов изменений. Это критически важно в медицине, финансах и государственном управлении, где решения принимаются на основе интервенций, а не просто наблюдений.
Источник: arXiv cs.AI ↗