Проблема: «Шум» в длинных медицинских записях
При работе с клиническими записями (EHR) большие языковые модели (LLM) сталкиваются с дилеммой: если просто накапливать все данные, контекст переполняется нерелевантной информацией. Если же перезаписывать старые записи новыми, теряется критически важная история лечения. Это приводит к ошибкам в диагностике, так как модель не может корректно отследить динамику состояния пациента.
Решение: Архитектура STAM
Команда авторов (Maryam Haghifam, Zahra Rajabi, Yizhou Sun, Carlos Morato) предложила фреймворк STAM (State-Transition-Aware Memory). Его ключевая особенность — разделение памяти на два слоя:
- Active (Активная): хранит текущее состояние пациента и последние изменения.
- History (История): архивирует устаревшие, но разрешенные или superseded данные, сохраняя контекст для анализа траектории болезни.
Система использует семантический поиск и типизированные клинические отношения, чтобы при поступлении новой записи точно определить, какие именно старые записи становятся неактуальными. При запросе (read time) работает «gate» (вентиль), который на основе запроса решает, обращаться ли к истории.
Результаты на бенчмарках
Метод STAM был протестирован на четырех лонгитюдных клинических бенчмарках. Оценка проводилась по трем направлениям: ответ на вопросы (QA), диагностика поддержания состояния и сравнение с аналогами при сопоставимой длине контекста. Ниже приведена структура сравнения подходов:
| Подход | Механизм работы | Риск для клинического агента |
|---|---|---|
| Naive Accumulation | Простое накопление всех записей в контексте | Перегрузка контекста, потеря фокуса на актуальных симптомах |
| Overwriting | Замена старых записей новыми | Потеря истории лечения, невозможность отследить динамику |
| STAM (предлагаемый) | Разделение на Active/History + семантический gate | Минимизирован: сохраняется баланс между актуальностью и историей |
Почему это важно
STAM демонстрирует, что для внедрения AI в клиническую практику недостаточно просто «больших моделей». Необходимы специализированные архитектуры памяти, которые понимают медицинскую логику: что является временным симптомом, а что — хроническим заболеванием. Это шаг к созданию надежных AI-ассистентов, способных вести пациента на протяжении всего лечения, а не только в рамках одного визита.
Источник: arXiv cs.CL ↗