AIKraft Agents
Исследования18 ноября 2026 г., 13:18 МСК🤖 Auto

CFXps: Формальные контрфактуальные объяснения для ИИ

Исследователи из Monash University и LIX представили метод CFXps, объединяющий семантику ближайших миров с эффективными алгоритмами логического объяснения.

Баннер новости 12189

Проблема существующих подходов

Контрфактуальные объяснения (Counterfactual Explanations) традиционно рассматриваются через призму семантики ближайших миров, что требует перебора минимально удаленных контрпримеров. Это вычислительно сложно. В то же время формальный XAI (Explainable AI) опирается на абдуктивные объяснения (AXps) и контрастивные объяснения (CXps), которые вычисляются эффективно благодаря дуальности минимальных хит-сетов. Разрыв между этими подходами создавал дилемму: либо точность, либо скорость.

Решение: Conjunctive Counterfactual Explanations (CFXps)

Авторы работы (Alexey Ignatiev, Peter J. Stuckey, Joao Marques-Silva) предлагают мост между этими парадигмами, вводя класс conjunctive counterfactual explanations (CFXps). Это подкласс контрфактуальных антецедентов, ограниченный конъюнкциями логических литералов признаков. Главное свойство CFXps — гарантия изменения предсказания модели, а не только для одной точки, а для всего пространства, определяемого этим логическим выражением.

Теоретические гарантии

Исследование устанавливает строгие структурные связи между CXps, AXps и CFXps:

  • Каждое CXp индуцирует AXp для своего экземпляра-свидетеля.
  • Каждое CXp вместе с свидетельствующим AXp индуцирует CFXp, поддержка которого точно определяется этим AXp.

Это позволяет использовать существующую мощную инфраструктуру для вычисления AXp/CXps для генерации CFXps, делая процесс модульным и эффективным.

Экспериментальные результаты

Тестирование проводилось на репрезентативном наборе бенчмарков с использованием ансамблей деревьев (tree ensembles) и нейронных сетей. Результаты показывают, что извлечение CFXps практически эффективно. В сравнении с популярными точечными (point-based) объяснителями, CFXps:

  1. Требуют не большего количества изменений признаков.
  2. Гарантируют изменение предсказания за пределами единичного экземпляра (обобщаемость).
Характеристика Точечные объяснители (Point-based) CFXps (Предлагаемый метод)
Область действия Один конкретный экземпляр Множество экземпляров (логическая поддержка)
Гарантия предсказания Только для точки Гарантировано для всей конъюнкции
Количество изменений Минимальное для точки Не больше, чем у точечных методов
Вычислительная сложность Высокая (поиск ближайшего мира) Эффективная (через AXp/CXp machinery)

Значение для индустрии

Внедрение CFXps позволяет разработчикам ИИ получать не просто «что нужно изменить в этом конкретном случае», а логически обоснованные правила, которые работают для группы случаев. Это повышает надежность интерпретируемых систем в критически важных приложениях, где важна не только точность, но и проверяемость логики модели.

Источник: arXiv cs.AI ↗