Проблема «дорогих» LLM-агентов
Использование больших языковых моделей (LLM) в качестве автономных планировщиков для долгосрочных задач сопряжено с двумя критическими проблемами: высокими вычислительными затратами (из-за огромного количества токенов) и склонностью к галлюцинациям, ведущим к невалидным действиям. Авторы работы Tengwei Song и Robert Hoehndorf предлагают альтернативный подход, где LLM не принимает стратегических решений, а выступает в роли «конstrained bridge» (ограниченного моста) между естественным языком и символьным планированием.
Архитектура MemPlan
MemPlan использует язык описания и планирования действий (PDDL) для явного планирования, но адаптирует его для частично наблюдаемых текстовых сред. Ключевые компоненты системы:
- Фиксированный домен PDDL: Логика мира не меняется, что обеспечивает стабильность правил.
- Динамическая реконструкция задачи: На каждом шаге система парсит наблюдения, формирует гипотезы и обновляет состояние задачи.
- Позитивная память: Граф памяти оценивает релевантность действий для недостающих объектов или локаций, снижая стоимость правдоподобных проверок.
- Негативная память: Записывает опровергнутые предположения и компилирует их в ограничения на исключение, предотвращая повторение ошибок.
- Язык-символьный интерфейс: Модель, дообученная методом SFT (Supervised Fine-Tuning), преобразует текст в факты PDDL и обратно в команды.
Результаты бенчмарков
Эксперименты проводились на трех популярных платформах: TextWorld, ALFWorld и Robotouille. MemPlan демонстрирует превосходство над базовыми моделями, использующими только язык (например, ReAct), и над PDDL-ориентированными подходами. Система достигает более высокой доли успешных завершений задач и требует меньше шагов для их выполнения. При этом онлайн-затраты на токены значительно ниже, чем у чистых LLM-планировщиков.
| Метрика / Платформа | MemPlan | Базовые LLM (ReAct) | Примечание |
|---|---|---|---|
| Успешность задач (TextWorld/ALFWorld) | Выше | Ниже | Более надежное выполнение |
| Эффективность по шагам | Выше | Ниже | Меньше итераций |
| Затраты токенов (онлайн) | Существенно ниже | Высокие | Экономия за счет PDDL |
| Адаптация к новым задачам | Zero-shot (без дообучения) | Часто требует fine-tuning | Универсальный интерфейс |
Значение для индустрии
Работа, принятая к публикации в NeurIPS 2026, демонстрирует тренд на гибридные системы. Отказ от попыток заставить LLM «думать» как логический движок в пользу использования их сильных сторон (понимание языка) в связке с надежностью символьных методов открывает путь к созданию более дешевых и предсказуемых AI-агентов для сложных интерактивных сред.
Источник: arXiv cs.CL ↗