Проблема традиционных методов объяснимости
В сложных киберфизических системах (CPS) и IoT-сетях традиционные методы объяснимости (XAI) часто ограничиваются выявлением корреляций между входными и выходными переменными. Однако для высокорисковых доменов требуется каузальный анализ, отвечающий на вопрос «что произойдет, если вмешаться?». Главная проблема заключается в том, что восстановление явного направленного каузального графа в масштабируемых гибридных системах с обратными связями и частичной наблюдаемостью часто невозможно или непрактично.
Решение: Энергетическая модель на основе статистической механики
Команда исследователей во главе со Спиритоном Евангелатосом (Spyridon Evangelatos) предложила новую парадигму. Вместо поиска направленных графов они моделируют зависимости переменных через неориентированное, энергетическое представление системы. Метод анализирует, как вариации в энергетическом ландшафте отражают влияние отдельных компонентов. Это позволяет проводить строгую атрибуцию, aware к зависимостям, без необходимости реконструкции полной генеративной динамики системы.
Эмпирические результаты на промышленном IoT
Фреймворк был протестирован на симуляциях промышленного IoT-полигона, включающего гибридные непрерывные и дискретные переменные. Подход продемонстрировал превосходство над современными методами, основанными на графах, по ключевым метрикам:
| Метрика | Преимущество нового метода | Контекст |
|---|---|---|
| Точность атрибуции | Выше | Идентификация причин аномального поведения |
| Устойчивость (Robustness) | Улучшена | Стабильность объяснений при возмущениях |
| Масштабируемость | Лучше | Работа с высокоразмерными данными |
Значение для индустрии
Хотя метод изначально демонстрировался в контексте безопасности промышленного IoT, его применение распространяется на любые высокоразмерные киберфизические и социально-технические системы. Предоставляемые объяснения поддерживают как человеческую интерпретацию (для инженеров и аналитиков), так и downstream-задачи, такие как диагностика и прогнозирование, обеспечивая надежную основу для принятия решений в условиях неопределенности.
Источник: arXiv cs.AI ↗