От «что пошло не так» к «что нужно сделать»
Традиционные контрфактуальные объяснения в анализе временных графов (Temporal Graphs) часто ограничиваются демонстрацией того, как изменение прошлых событий может опровергнуть текущий прогноз модели. Однако на практике пользователям и аналитикам требуется более конкретный ответ: какие именно условия привели бы к конкретному альтернативному результату (B), а не просто к отсутствию исходного прогноза (A).
Новая работа, представленная на arXiv, формулирует задачу как Specified-Foil Counterfactual. Суть метода заключается в поиске вмешательства с минимальной стоимостью в прошлом, которое заставит ту же самую «черную коробку» выбрать вариант B в качестве топ-ранжированного. Это превращает исполняемые трассы (executable traces) из простых записей событий в вычислительные структуры для конструирования условий альтернативных исходов.
Механика и реализация: LiFTER и TLogic
Авторы предлагают алгоритм поиска, основанный на сравнении завершенного выполнения сценария A и реконструированного незавершенного выполнения сценария B. Различия между ними маппируются в пять базовых операций:
- DELETE (удаление события),
- INSERT (вставка события),
- REWIRE (переподключение связей),
- RELABEL (изменение метки),
- SHIFT (сдвиг во времени).
Для проверки гипотезы метод был реализован на двух платформах: LiFTER для непрерывных динамических графов (CTDGs) и TLogic для временных графов знаний (TKGs). Ключевым этапом является точная реиграция (exact replay) измененного сценария для верификации результата.
Результаты: эффективность и точность
Эксперименты показали высокую эффективность подхода. На задачах с CTDGs метод сохранил 85,7–93,6% успешных результатов жадного алгоритма (black-box greedy), но при этом сократил количество оценок предиктора на 75,0–80,0%. Для временных графов знаний (TKG) метод достиг целевого альтернативного исхода в 74,8% случаев из 600 сравнений.
| Метрика / Платформа | Результат | Значение для отрасли |
|---|---|---|
| LiFTER (CTDGs): Сохранение успешности | 85.7% – 93.6% | Метод не теряет качество по сравнению с базовыми жадными алгоритмами. |
| LiFTER (CTDGs): Экономия вычислений | 75.0% – 80.0% | Сокращение количества запросов к модели-предиктору, что критично для дорогих ИИ-систем. |
| TLogic (TKGs): Успешность поиска | 74.8% | Высокая вероятность нахождения конкретного контрфакта в графах знаний (600 тестов). |
Почему это важно
Работа Minwoo Yu и Young-guk Ha закрывает важный пробел в области Explainable AI (XAI). Переход от общего «разрушения» предсказания к целевому поиску альтернативы (Specified-Foil) делает объяснимость ИИ более прикладной. Это позволяет бизнесу и исследователям не только понимать ошибки моделей, но и моделировать сценарии «что, если» для достижения конкретных, заранее заданных бизнес-целей в динамических системах.
Источник: arXiv cs.AI ↗