MA-SafeDiffuser: Безопасное планирование мультиагентов через диффузию

Проблема безопасности в диффузионных моделях

Традиционные диффузионные модели, применяемые для планирования траекторий, часто генерируют решения, нарушающие жесткие ограничения безопасности. Новая работа, принятая к публикации в AAMAS 2026, предлагает решение этой проблемы через механизм MA-SafeDiffuser. Алгоритм расширяет подход SafeDiffuser на случай нескольких агентов, обеспечивая гарантии инвариантности конечного времени (finite-time invariance guarantees) для совместных спецификаций безопасности.

Техническая суть: CBF и обратная диффузия

Ключевая инновация заключается во встраивании ограничений функций барьера управления (Control Barrier Functions, CBF) непосредственно в обновления обратного процесса диффузии. Авторы формализуют безопасные множества как пересечение индивидуальных барьеров каждого агента и парных барьеров взаимодействия. Это позволяет выводить процедуры денормализации как в централизованном, так и в децентрализованном (с учетом коммуникации) режимах.

Решение проблемы тупиков

Одной из главных проблем мультиагентных систем является локальная ловушка (local-trap) и взаимные блокировки (deadlock). MA-SafeDiffuser решает эту проблему путем использования временных спецификаций и CBF живучести (liveness CBFs). Это гарантирует, что агенты не застревают в локальных оптимумах, а продолжают движение к цели, соблюдая при этом дистанцию безопасности.

Эмпирические результаты и бенчмарк

Для тестирования разработана легковесная тестовая среда Maze2D для мультиагентных систем. Эксперименты показывают, что MA-SafeDiffuser значительно снижает количество нарушений ограничений по сравнению с базовыми диффузионными моделями без ограничений, сохраняя при этом высокое качество планирования траекторий. Авторы опубликовали полный код, доказательства теорем и референсные реализации.

Источник: arXiv cs.AI ↗