Проблема: от функционального анализа к операционной безопасности
Традиционный функциональный анализ опасностей (FHA) фокусируется на отказах бортовых систем. Однако реальные инциденты часто возникают из-за сложного взаимодействия факторов: погоды, действий диспетчеров (ATC), ограничений воздушного пространства и человеческого фактора. Для анализа этих операционных рисков исследователи Cristian Mascia, Roberto Pietrantuono, Daniel Rodriguez и Stefano Russo (Университет Сапиенца, Рим) предложили использовать большие языковые модели (LLM) для автоматизации выявления потенциальных угроз.
Методология: от ASRS к структурированным гипотезам
В основе подхода лежит база данных NASA Aviation Safety Reporting System (ASRS) — репортажи пилотов о нарушениях и инцидентах. Система работает в два этапа:
- Генерация гипотезы: LLM формирует структурированный список категориальных факторов, ведущих к заданному негативному исходу.
- Создание нарратива: Модель описывает последовательность событий, формируя сценарий инцидента.
Ключевая особенность — прослеживаемость (traceability). Каждый сгенерированный сценарий получает оценку правдоподобия на основе исторических данных и ссылается на наиболее похожие реальные отчеты из ASRS, что позволяет экспертам-людям верифицировать выводы ИИ.
Эксперимент: сравнение моделей и методов
Авторы протестировали различные подходы к промптингу и выбору моделей. Особое внимание уделили гибридной вариации, где нарратив генерируется на основе гипотезы, полученной через эволюционный абдуктивный вывод (evolutionary abduction). Это позволило снизить вариативность и повысить корректность сценариев.
| Метод / Параметр | Описание | Результат / Значение |
|---|---|---|
| Источник данных | NASA ASRS Reports | Реальные отчеты пилотов о инцидентах |
| Базовый подход | Zero-shot / Few-shot prompting | Базовая линия для сравнения |
| Гибридный подход | Условная генерация через эволюционный абдуктивный вывод | Повышенная корректность и снижение вариативности |
| Метрика оценки | Оценка правдоподобия (plausibility score) | На основе исторического совпадения факторов |
Значение для отрасли
Исследование демонстрирует, что LLM могут не просто «болтать», а выступать в роли инструмента для анализа рисков в критически важных системах. Возможность связать сгенерированный сценарий с реальным отчетом (traceability) решает главную проблему «черного ящика» в ИИ, делая метод применимым в авиационной безопасности, где недопустимы ошибки без объяснения причин.
Источник: arXiv cs.AI ↗