Проблема: ЛLM-агенты вслепую
Автономные агенты на базе больших языковых моделей (LLM) часто сталкиваются с частичной наблюдаемостью (partial observability). В отличие от идеальных условий, где агент видит всё состояние среды, в реальности (например, при навигации в 3D-мире или поиске в интернете) информация поступает фрагментарно. Это порождает три критические проблемы:
- Вывод состояния убеждения (belief state inference): агент не знает, где он находится на самом деле.
- Несоответствие целям (task objective misalignment): агент может терять фокус из-за шума в данных.
- Планирование в условиях неопределенности: стандартные цепочки рассуждений (Chain-of-Thought) часто дают сбой, так как опираются на избыточные или нерелевантные истории действий.
Решение: Архитектура NeSyFS
Авторы предлагают фреймворк Neuro-symbolic Fast-Slow Thinking (NeSyFS), вдохновленный когнитивной моделью человека (Система 1 и Система 2 по Канеману). Ключевое отличие — использование онтологического графа знаний (Knowledge Graph, KG) для представления состояния убеждения. Граф предоставляет структурированные тройки (triplets) в качестве контекста для каждого модуля, отсеивая информационный шум.
Механика работы: Быстро и медленно
Система разделена на два основных модуля, связанных модулем рефлексии:
- Fast-thinking (Быстрое мышление): Отвечает за реактивные действия. Работает быстро, но может ошибаться, если контекст неполный.
- Slow-thinking (Медленное мышление): Занимается планированием с учетом неопределенности. Использует алгоритм Twisted Sequential Monte Carlo (TSMC) для оценки вероятностей и выбора оптимальной стратегии.
Модуль рефлексии анализирует успех быстрых действий. Если они повторяются неудачно, система переключается на «медленное» планирование, чтобы скорректировать курс.
Результаты: Бенчмарки
Эксперименты проводились на трех сложных задачах, требующих долгосрочного планирования и работы с неполными данными. NeSyFS демонстрирует значительное преимущество над предыдущими методами (включая стандартные LLM-агенты без символической компоненты).
| Бенчмарк | Суть задачи | Ключевое преимущество NeSyFS |
|---|---|---|
| ALFWorld | Навигация и взаимодействие с объектами в текстовом симуляторе дома | Лучшее восстановление состояния убеждения через KG |
| Webshop | Покупка товара в интернет-магазине по текстовому описанию | Снижение количества лишних кликов и ошибок фильтрации |
| ScienceWorld | Проведение научных экспериментов в виртуальной лаборатории | Успешное планирование в условиях высокой неопределенности среды |
Работа опубликована 31 июля 2026 года в arXiv (cs.AI). Авторы подчеркивают, что гибридный подход позволяет LLM-агентам быть не просто «генераторами текста», а надежными исполнителями в реальных, неструктурированных условиях.
Источник: arXiv cs.AI ↗