Проблема плоской памяти и латентности
Существующие системы долговременной памяти для LLM-агентов страдают от двух критических недостатков: плоское хранение данных теряет реляционный контекст, необходимый для многошагового и временного вывода, а также опираются на дорогую классификацию на базе LLM, что делает их непригодными для систем с жесткими требованиями к задержке. Кроме того, отсутствие механизмов валидации приводит к накоплению противоречий.
Архитектура MOSAIC: три ключевых механизма
Команда авторов (Zicheng Zhao, Xinyang Guo и др.) предложила фреймворк MOSAIC (Memory-Organized Structured Agent for Information Collection), который решает эти проблемы через три компонента:
- Графовое хранение с типизацией сущностей: Сохраняет реляционную структуру событий, персонажей и связей, позволяя агентам выполнять многошаговый вывод.
- Хэш-ускоренный двунаправленный поиск: Заменяет LLM-классификацию на локально-чувствительное хеширование (LSH), обеспечивая мгновенный поиск с минимальной потерей точности.
- Активное обнаружение конфликтов: При сохранении новой информации система перекрестно проверяет её с соседями в графе, обновляя или удаляя противоречащие записи.
Результаты бенчмарков
Оценка проводилась на наборах данных LoCoMo, HaluMem и специализированном тесте клинических руководств. MOSAIC демонстрирует существенное превосходство над лучшими базовыми моделями, особенно в обнаружении фактических конфликтов (66% против 14% у конкурентов).
| Метрика / Датасет | Результат MOSAIC | Примечание / Сравнение |
|---|---|---|
| LoCoMo (Accuracy) | 89.35% | +27.21 п.п. над лучшим базовым уровнем |
| HaluMem-Medium (F1) | 86.77% | Лучший результат среди протестированных |
| HaluMem-Long (F1) | 85.84% | Лучший результат среди протестированных |
| QA Correctness (Medium) | 73.10% | Лучший результат |
| QA Correctness (Long) | 70.75% | Лучший результат |
| Обнаружение конфликтов | 66% | В 4.7 раза выше, чем у лучшего базового уровня (14%) |
| Средняя задержка поиска | 0.58 с | На вопрос |
Значение для индустрии
Результаты показывают, что переход от плоских векторных баз данных к структурированным графам с хэш-индексацией позволяет создавать агентов, способных к сложному логическому выводу над историей диалога без критического роста вычислительных затрат. Это открывает путь к внедрению LLM-агентов в сценарии, требующие высокой скорости отклика и строгой фактологической точности, например, в медицинской диагностике или юридическом анализе.
Источник: arXiv cs.AI ↗