Проблема существующих подходов
Современные LLM-агенты часто сжимают историю взаимодействий в краткие резюме или используют другие представления, сгенерированные самими языковыми моделями. Этот подход имеет два критических недостатка: повторная генерация увеличивает вычислительные затраты, а также приводит к потере важных деталей до того, как система узнает, какой ответ потребуется пользователю в будущем.
Решение: EdgeMem и многоякорный гиперграф
Авторы предлагают метод EdgeMem, основанный на принципе сохранения исходных реплик диалога. Вместо генерации новых текстов система организует данные с помощью многоякорного гиперграфа, построенного на основе легких локальных вычислений. Используются три типа связей:
- Комплементарное содержание (дополняющая информация);
- Временные маркеры (хронология событий);
- Эпизодические подсказки (контекст ситуаций).
Поиск возвращает прямые источники (evidence), а LLM используется исключительно для финального формирования ответа. Это обеспечивает структурированный доступ к историям из нескольких сессий с полной сохранностью оригинальных данных.
Результаты бенчмарков
Эксперименты проводились на наборах данных LoCoMo и LongMemEval-S. EdgeMem показал высокую эффективность в задачах поиска и ответа на вопросы с опорой на память. Ниже приведено сравнение результатов на LoCoMo:
| Метрика | EdgeMem | Лучший из 7 систем | Разница |
|---|---|---|---|
| Strict-judge score | 61.01 | 58.70 | +2.31 |
| Использование LLM для памяти | Нет | Да (в большинстве случаев) | Экономия ресурсов |
EdgeMem достиг наивысшего показателя strict-judge среди семи воспроизведенных систем при использовании общего промпта, при этом построение и поиск памяти не требуют вызовов генеративных LLM.
Значение для индустрии
Работа доказывает, что сохранение и организация исходных доказательств (источников) создают эффективный фундамент для памяти агентов без необходимости генеративного управления памятью. Это открывает путь к более дешевым и быстрым AI-ассистентам, способным работать с длинными контекстами без деградации качества из-за сжатия информации.
Источник: arXiv cs.AI ↗
