Проблема «черного ящика» в прогнозировании
В задачах автономного вождения и робототехники традиционные end-to-end нейросетевые модели часто не способны объяснить, почему они предсказали то или иное поведение объекта. Новая работа Julius Monsen, Jakob Suchan и Mehul Bhatt предлагает решение: декларативный фреймворк на базе Answer Set Programming (ASP). Система формирует семантические пространственно-временные ментальные модели, которые эвристически направляют низкоуровневые вычисления движения.
Архитектура: три ключевых модуля
Метод является гибридным, модульным и устойчивым к изменениям (elaboration tolerant). Он интегрирует три компонента:
- Модель динамики ASP: описывает взаимодействие траекторий объектов.
- Семантическое предсказание: генерирует «ветвящиеся будущие» траектории на основе общих знаний (commonsense).
- Оптимизация на основе энергии: оценивает, ранжирует и фильтрует возможные сценарии, выбирая наиболее вероятные.
Результаты на бенчмарке Argoverse 2
Авторы протестировали фреймворк на стандартном наборе данных Argoverse 2. Ключевое отличие подхода от стохастических нейросетей — наличие у каждой предсказанной траектории явной, проверяемой гипотезы на уровне событий. Это позволяет человеку или другой системе понять логику принятия решений.
| Характеристика | Традиционные End-to-End модели | Предлагаемый ASP-фреймворк |
|---|---|---|
| Объяснимость | Низкая (черный ящик) | Высокая (явные логические гипотезы) |
| Основа вывода | Статистические корреляции | Декларативная логика и commonsense |
| Гибкость | Требует переобучения | Elaboration tolerant (легко дополнять правилами) |
| Бенчмарк | Argoverse 2 | Argoverse 2 |
Значение для индустрии
Работа принята к публикации в ACS 2026 (Advances in Cognitive Systems). Подход демонстрирует, что логическое программирование может эффективно дополнять или заменять глубокие нейросети в задачах, где критически важна не только точность, но и интерпретируемость решений. Это особенно важно для безопасных систем, где необходимо понимать причины потенциальных аварийных ситуаций.
Источник: arXiv cs.AI ↗