Проблема: свежесть данных ≠ актуальность плана
В распределенных системах с LLM-агентами возникает парадокс: агенты могут читать самые свежие факты, но продолжать действовать на основе старых планов. Авторы называют это stale-plan execution (выполнение устаревшего плана). Ситуация типична, когда планировщик выводит действие из требования $r_3$, другой агент фиксирует $r_4$, а исполнитель получает $r_4$, но не заменяет план, основанный на $r_3$.
Решение: PlanFence и валидация по зависимостям
Предложен протокол PlanFence, который требует от планов цитировать точные публичные записи, использованные для их создания. Исполнитель валидирует только те записи, которые могут повлиять на текущее внешнее действие. Если валидация неполная, система либо перепланирует задачу, либо блокирует действие.
Результаты тестирования: 30 рабочих процессов
Эксперименты проводились на 30 контролируемых живых рабочих процессах с последующей пересмотром плана. Ключевые метрики безопасности и системных затрат:
| Метрика / Сценарий | Стандартный исполнитель (без PlanFence) | Исполнитель с PlanFence |
|---|---|---|
| Выполнение невалидных действий | 100% задач (во всех задачах) | 0% задач (все задачи завершены корректно) |
| Низкая частота изменений (Low churn) | Высокая координационная задержка | Проактивная синхронизация снижает задержку |
| Высокая частота изменений (High churn) | Повторная координация путей обновления | PlanFence избегает лишних проверок |
| Рост общего пространства ключей | Проверка всех состояний | Валидация только релевантного состояния |
Важно отметить: это результаты по безопасности и системным затратам, а не по общей точности выполнения задач. PlanFence предотвращает ошибки, но не делает агентов «умнее» в решении самих задач.
Почему это важно
По мере роста масштаба распределенных LLM-систем проблема рассинхронизации планов становится критической. PlanFence предлагает механизм, который масштабируется за счет проверки только зависимых записей, а не всего состояния системы, что снижает накладные расходы при увеличении числа агентов и частоте изменений данных.
Источник: arXiv cs.AI ↗