Проблема существующих подходов
Контрфактуальные объяснения (Counterfactual Explanations) традиционно рассматриваются через призму семантики ближайших миров, что требует перебора минимально удаленных контрпримеров. Это вычислительно сложно. В то же время формальный XAI (Explainable AI) опирается на абдуктивные объяснения (AXps) и контрастивные объяснения (CXps), которые вычисляются эффективно благодаря дуальности минимальных хит-сетов. Разрыв между этими подходами создавал дилемму: либо точность, либо скорость.
Решение: Conjunctive Counterfactual Explanations (CFXps)
Авторы работы (Alexey Ignatiev, Peter J. Stuckey, Joao Marques-Silva) предлагают мост между этими парадигмами, вводя класс conjunctive counterfactual explanations (CFXps). Это подкласс контрфактуальных антецедентов, ограниченный конъюнкциями логических литералов признаков. Главное свойство CFXps — гарантия изменения предсказания модели, а не только для одной точки, а для всего пространства, определяемого этим логическим выражением.
Теоретические гарантии
Исследование устанавливает строгие структурные связи между CXps, AXps и CFXps:
- Каждое CXp индуцирует AXp для своего экземпляра-свидетеля.
- Каждое CXp вместе с свидетельствующим AXp индуцирует CFXp, поддержка которого точно определяется этим AXp.
Это позволяет использовать существующую мощную инфраструктуру для вычисления AXp/CXps для генерации CFXps, делая процесс модульным и эффективным.
Экспериментальные результаты
Тестирование проводилось на репрезентативном наборе бенчмарков с использованием ансамблей деревьев (tree ensembles) и нейронных сетей. Результаты показывают, что извлечение CFXps практически эффективно. В сравнении с популярными точечными (point-based) объяснителями, CFXps:
- Требуют не большего количества изменений признаков.
- Гарантируют изменение предсказания за пределами единичного экземпляра (обобщаемость).
| Характеристика | Точечные объяснители (Point-based) | CFXps (Предлагаемый метод) |
|---|---|---|
| Область действия | Один конкретный экземпляр | Множество экземпляров (логическая поддержка) |
| Гарантия предсказания | Только для точки | Гарантировано для всей конъюнкции |
| Количество изменений | Минимальное для точки | Не больше, чем у точечных методов |
| Вычислительная сложность | Высокая (поиск ближайшего мира) | Эффективная (через AXp/CXp machinery) |
Значение для индустрии
Внедрение CFXps позволяет разработчикам ИИ получать не просто «что нужно изменить в этом конкретном случае», а логически обоснованные правила, которые работают для группы случаев. Это повышает надежность интерпретируемых систем в критически важных приложениях, где важна не только точность, но и проверяемость логики модели.
Источник: arXiv cs.AI ↗
