Проблема «черного ящика» в причинном выводе
Современные большие языковые модели (LLM) часто опираются на скрытые языковые корреляции, что приводит к непрозрачным причинным предположениям и хрупким предсказаниям, особенно в условиях сложных интервенций. Авторы работы Causal-Audit (Su Lan, Xuefei Yin, Yanming Zhu, Alan Wee-Chung Liew) предлагают решение: переход от неявного end-to-end прогнозирования к структурированному рассуждению на основе явного причинного графа.
Архитектура: 4 модульных этапа
Методика формулирует причинно-следственный вывод как процесс, состоящий из четырех модульных стадий. Ключевым нововведением является стратегия target-aware causal graph construction (построение графа, aware-ного к целевой переменной). Целевая переменная выступает жестким ограничением при расширении графа, что эффективно подавляет нерелевантные переменные, ложные причинные связи и шум в рассуждениях.
Агрегация доказательств на уровне путей
Для принятия решений система использует механизм агрегации причинных доказательств на уровне путей (path-level). Он комбинирует несколько причинных путей, моделируя как усиливающие, так и противодействующие эффекты. Это позволяет системе принимать более robust-решения, выходя за рамки линейного одноцепочечного рассуждения.
Результаты и значимость
Экстенсивные эксперименты на трех бенчмарках показали, что фреймворк стабильно превосходит существующие методы на базе LLM. Главное преимущество — предоставление интерпретируемых и аудируемых следов причинно-следственных рассуждений, что критически важно для доверия к ИИ в ответственных задачах.
| Характеристика | Традиционные LLM-подходы | Causal-Audit |
|---|---|---|
| Тип рассуждения | Неявное, языковое | Явное, графовое |
| Прозрачность | Низкая (черный ящик) | Высокая (аудируемый след) |
| Устойчивость к шуму | Хрупкая при интервенциях | Robust (подавление ложных связей) |
| Механизм принятия решения | End-to-end prediction | Агрегация множественных причинных путей |
Источник: arXiv cs.AI ↗