Проблема стандартных подходов
Традиционные методы объяснения на основе чисел Шепли (Shapley) рассматривают каждый признак как единого игрока, сводя многомерные данные к скалярному значению. Это скрывает критически важную информацию: когда именно в окне входных данных признак оказывает влияние и как меняется его воздействие на разных горизонтах прогнозирования. Для сложных временных рядов это делает модели «черными ящиками» на уровне отдельных временных шагов.
Решение: TempShap
Авторы (Chi Zhao, Anastasiia Chelnokova, Jing Liu, Elena Parilina) предлагают TempShap — ретроспективную, основанную на функции потерь, framework, где «игроками» являются отдельные ячейки входных данных $(t,i)$. Результатом работы является тензор атрибуции, который предоставляет два ключевых профиля:
- Временная локализация: точные моменты, когда признак активен.
- Влияние на горизонт: динамика вклада признака в прогноз на разных шагах вперед.
Методология и валидация
Для оценки игры на уровне ячеек используется оценка перестановочного обмена (permutation sharing), что позволяет снизить вычислительные затраты. Исследование проведено на синтетических данных с заданными временными структурами, а также на реальных линейных моделях с замкнутой формой атрибуции. Особое внимание уделено случаю избыточных (redundant) входных данных.
Ключевые результаты
Стандартные методы «по одному» (one-at-a-time) недооценивают замещающую информацию в условиях избыточности. TempShap использует знаковую декомпозицию Шепли, которая сохраняет общую ценность и обеспечивает более надежные ранжирования при удалении (deletion rankings) на тестовой выборке.
| Характеристика | Стандартный Shapley (Feature-level) | TempShap (Cell-level) |
|---|---|---|
| Единица анализа | Целый признак (скаляр) | Отдельная ячейка $(t,i)$ |
| Временная детализация | Отсутствует | Полная (временная локализация) |
| Работа с избыточностью | Недооценка вклада | Сохранение общей ценности (знаковая декомпозиция) |
| Надежность удаления | Сниженная | Высокая (подтверждено на бенчмарках) |
Эксперименты показывают преимущество TempShap в ранжировании удаления признаков across различных семейств моделей и прогнозирующих бенчмарках, делая тонкозернистую атрибуцию Шепли практически применимой.
Источник: arXiv cs.AI ↗