Безопасность автономных транспортных систем (ADAS и Level 4/5) напрямую зависит от точности предсказания поведения пешеходов. Однако модели, основанные на глубоком обучении, уязвимы к состязательным атакам (adversarial attacks) — небольшим, незаметным для человека изменениям во входных данных, которые заставляют модель выдавать катастрофически неверные прогнозы. В статье TrajRS: Towards Certified Robustness in Pedestrian Trajectory Prediction, принятой к публикации в IEEE ICASSP 2026, группа авторов во главе с Лян Чжаном (Liang Zhang) предлагает решение этой проблемы через расширение фреймворка Randomized Smoothing.
Суть метода: от эвристики к гарантии
Предыдущие подходы защиты опирались на эвристические методы, которые часто не выдерживают面对 сложных целевых атак. TrajRS вводит понятие сертифицированного радиуса устойчивости (certified robust radius). Это означает, что для любой предсказанной траектории система может математически доказать: если возмущение входных данных (например, координат пешехода) не превышает определенный порог, предсказание останется неизменным. Авторы адаптировали классический Randomized Smoothing под специфику временных рядов и пространственных координат, определив два ключевых уровня устойчивости:
- Robustness for the optimal prediction: Устойчивость к изменению лучшего (наиболее вероятного) прогноза.
- Robustness for all possible predictions: Устойчивость всего распределения возможных траекторий.
Экспериментальные результаты
Исследование демонстрирует, что TrajRS эффективно сертифицирует устойчивость широкого спектра моделей предсказания траекторий. Метод позволяет не просто «защитить» модель, но и количественно оценить её надежность в условиях шума или злонамеренных вмешательств. Это закрывает критический пробел в валидации автономных систем, где важна не только средняя точность, но и гарантия безопасности в крайних случаях (edge cases).
| Параметр | Значение / Описание |
|---|---|
| Название метода | TrajRS (Trajectory Randomized Smoothing) |
| Ключевая метрика | Certified Robust Radius (Сертифицированный радиус устойчивости) |
| Конференция | IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP 2026) |
| Основная проблема | Уязвимость моделей предсказания траекторий к состязательным атакам |
| Авторы | Liang Zhang, Gaojie Jin, Yao Shi, Quanzhi Li, Cheng-Chao Huang, David N. Jansen, Lijun Zhang |
Почему это важно
Для индустрии автономного вождения переход от «статистической точности» к «математически доказуемой безопасности» является следующим большим шагом. TrajRS предоставляет инструмент для сертификации моделей, что может стать требованием регуляторов при допуске беспилотных автомобилей на дороги общего пользования. Метод позволяет инженерам точно знать границы доверия к предсказаниям системы в реальном времени.
Источник: arXiv cs.AI ↗