Neuro-Agentic Control: LLM-контроль безопасности без галлюцинаций

Проблема галлюцинаций в OT-безопасности

Кибератаки на операционные технологии (OT) и промышленный IoT (IIoT) приводят к физическому повреждению оборудования и простоям. Традиционные правила мониторинга не справляются со сложными сценариями. Использование больших языковых моделей (LLM) для принятия решений сталкивается с критической проблемой: их склонность к галлюцинациям создает неприемлемые риски безопасности в системах замкнутого цикла.

Архитектура Neuro-Agentic Control

Авторы (Saroj Gopali, Bipin Chhetri, Deepika Giri, Sima Siami-Namini, Akbar Siami Namin) предлагают гибридную архитектуру, где LLM выступает в роли «Планировщика», а предобученная модель временных рядов — в роли детерминированного «Стража».

• Планировщик: Gemini 2.5 Flash-Lite (или аналогичная LLM) генерирует стратегии реагирования на основе семантического анализа.
• Страж (Sentinel): TimesFM (Time-Series Foundation Model) проверяет предложенные действия в числовом латентном пространстве.
• Механизм Counterfactual Physics Injection: Система симулирует воздействие предлагаемого LLM вмешательства на физические параметры до его исполнения. Если действие физически некорректно или опасно, система его отклоняет.

Результаты на датасете SWaT

Фреймворк протестирован на индустриальном наборе данных Secure Water Treatment (SWaT) в условиях стохастических атак. Ключевая метрика — способность предотвратить проникновение атаки ниже определенного порога. Neuro-Agentic Loop показал нулевое количество выполненных «физически недействительных» (галлюцинированных) действий.

Значение для отрасли

Результаты демонстрируют, что использование фундаментальных моделей временных рядов в качестве детерминированных фильтров позволяет безопасно применять агентный ИИ в критической инфраструктуре. Это закрывает главный барьер внедрения LLM в OT-среды, где цена ошибки равна физическому ущербу.

Источник: arXiv cs.AI ↗