AIKraft Agents
Главная/Блог/Аналитика/Self-Improving Memory: Как Meta FAIR…
Аналитика9 мин чтения · 20 ноября 2026 г.

Self-Improving Memory: Как Meta FAIR научила ИИ-агентов управлять памятью

Исследователи Meta FAIR представили метод Self-Improving Memory, где ИИ-агент сам создает инструкции для своей памяти, а затем «вшивает» эти навыки в веса модели через дистилляцию.

Self-Improving Memory: Как Meta FAIR научила ИИ-агентов управлять памятью

В мире искусственного интеллекта, где модели становятся всё более сложными, ключевой проблемой остается не столько генерация текста, сколько способность агента удерживать контекст, учиться на ошибках и эффективно использовать внешние ресурсы. Традиционные подходы часто полагаются на жестко заданные человеком инструкции (prompts) для управления памятью, что ограничивает гибкость системы. Однако команда исследователей из Meta FAIR, Университета Вашингтона и Университета Джонса Хопкинса представила прорывной метод под названием Self-Improving Memory (Самосовершенствующаяся память). Этот подход позволяет ИИ-агенту не просто использовать память, а самостоятельно разрабатывать стратегии её организации, а затем оптимизировать эти стратегии, «вшивая» их в веса нейросети. Это шаг от статических промптов к динамическому, самообучающемуся когнитивному аппарату.

Суть метода заключается в двухэтапном процессе. На первом этапе мета-агент исследует пространство возможных инструкций для управления файловой памятью, находя те, которые обеспечивают наилучшие результаты. На втором этапе эти найденные инструкции дистиллируются (переносятся) в веса модели с помощью техники LoRA. Базовой моделью для экспериментов выступил Kimi-K2.6 — мощная смесь экспертов (MoE) с 1 триллионом параметров, из которых активны 32 миллиарда, и контекстным окном в 256 тысяч токенов. Такой масштаб позволяет модели справляться с задачами, требующими глубокого анализа длинных документов и сложных кодовых баз.

01Архитектура агента: как работает файловая память

Чтобы понять инновацию, нужно рассмотреть архитектуру агента. В отличие от стандартных чат-ботов, которые хранят историю диалога в едином контекстном окне, агент Self-Improving Memory работает через поток подзадач. Каждая подзадача начинается с пустого контекста. Единственное, что сохраняется между подзадачами, — это директория постоянной памяти, которая редактируется с помощью специальных инструментов (file tools). Это напоминает то, как человек использует заметки или базу данных для хранения информации, которую нужно помнить между разными рабочими сессиями.

Управление этой памятью контролируется двумя ключевыми промптами:

  • OFFLOAD: Этот промпт используется после завершения подзадачи. Он инструктирует модель о том, какую информацию нужно сохранить в файлы памяти, чтобы она была полезна в будущем.
  • LOAD: Этот промпт вызывается перед началом следующей подзадачи. Он указывает модели, какие файлы из памяти нужно прочитать и как интегрировать эту информацию в текущий контекст.

Изначально исследователи использовали «общие» (generic) версии этих промптов, которые оставляли стратегию выбора информации на усмотрение самой модели. Однако пилотное исследование показало, что единая универсальная стратегия не работает для всех типов задач. То, что хорошо для программирования, может быть бесполезно для анализа баз данных. Именно здесь вступает в игру этап самооптимизации.

02Этап 1: Поиск оптимальных инструкций (Harness Optimization)

Первый этап метода — это автоматизированный поиск лучших инструкций для памяти. Мета-агент, который является той же самой моделью Kimi-K2.6, но работает в режиме оптимизатора, начинает с четырех «семян» (seeds) — базовых шаблонов, написанных людьми: Summary (Суммаризация), Retrieval (Поиск), Skill (Навык) и Hypothesis (Гипотеза). Для каждого из этих шаблонов мета-агент генерирует варианты промптов LOAD и OFFLOAD.

Self-Improving Memory: Как Meta FAIR научила ИИ-агентов управлять памятью

Процесс оптимизации итеративен. Каждый кандидат-промпт запускает полный поток задач пять раз. Затем мета-агент оценивает результаты, используя средние баллы. Лучшие четыре варианта становятся «родителями» для следующего поколения промптов. Мета-агент анализирует траектории выполнения, оценки и конечные директории памяти, чтобы предложить улучшенные версии инструкций. Важно отметить, что отбор происходит на «холд-аут» наборе данных, который мета-агент не видит во время генерации, что предотвращает переобучение на тестовых данных.

Результаты этого поиска удивительны. Найденные промпты оказываются гораздо более конкретными и эффективными, чем человеческие аналоги. Например, для задачи с базами данных (Database) оптимальный промпт предписывает модели сначала прочитать файл GUARDRAILS.md (правила безопасности), затем SCHEMA.md (схема данных), и только потом отвечать на запрос. Для задачи с кодовой базой (Codebase) лучшая стратегия включает использование файла QUICKSTART.md (быстрый старт), индексированного реестра исправлений (REGISTRY.md) и отдельных файлов для каждого исправления. Эти структуры позволяют модели быстро находить нужную информацию, не перегружая контекст.

💡
Важно понимать. Поиск промптов — это не просто генерация текста. Это архитектурное решение. Модель фактически проектирует структуру своей собственной «внешней памяти», определяя, какие файлы создавать и как их называть, чтобы максимизировать эффективность последующих запросов.

03Этап 2: Дистилляция навыков в веса (Harness Distillation)

Найти хорошие промпты — это только половина дела. Если агент зависит от этих специфических промптов, он становится хрупким: при изменении интерфейса или удалении промпта его эффективность упадет. Чтобы решить эту проблему, исследователи применили второй этап — дистилляцию. Цель — заставить модель вести себя так, как если бы она использовала оптимизированные промпты, но делая это «из головы», без явного указания инструкций.

Процесс дистилляции следует схеме «Discover-Demonstrate-Distill» (Найди-Покажи-Дистиллируй). Сначала агент выполняет обучающие подзадачи, используя оптимизированные промпты. Все вызовы модели логируются. Затем исследователи заменяют оптимизированные промпты обратно на общие (generic) в истории взаимодействий. Ключевой момент здесь в том, что поведение модели остается валидным даже при общих инструкциях. Модель уже «поняла» логику: она знает, что нужно проверять файлы QUICKSTART.md и REGISTRY.md, и что важно проверять ключи соединения перед агрегацией данных.

После этого модель дообучается (fine-tuning) с использованием техники LoRA (Low-Rank Adaptation) с рангом 64 на слоях проекции внимания (attention projections). Потеря (loss) вычисляется только для токенов ассистента, включая рассуждения и вызовы инструментов. Каждая задача получает равный вес. Поскольку мета-агент и агент задачи — это одна и та же модель Kimi-K2.6, модель обучается навыкам управления памятью, которые она открыла для себя сама. Это создает петлю обратной связи, где агент улучшает себя через собственный опыт.

04Результаты бенчмарков: цифры говорят сами за себя

Эффективность метода была протестирована на Continual Learning Bench, который включает три задачи: Database (SQL-запросы), Codebase (исправление репозиториев) и Spectrum (анализ радиосигналов). Тестовые подзадачи следуют за фазой сдвига, что позволяет измерить способность модели обобщать знания на новые экземпляры тех же задач.

Self-Improving Memory: Как Meta FAIR научила ИИ-агентов управлять памятью

Результаты показывают значительное преимущество оптимизированных промптов:

  • База данных (Database): Оптимизированный промпт набрал 53.8 балла, против 47.9 у лучшего человеческого промпта.
  • Кодовая база (Codebase): Здесь прирост был максимальным — 64.3 балла против 43.7 у человека. Это увеличение на 20.6 пункта!
  • Спектр (Spectrum): Оптимизированный промпт показал 49.9 балла против 42.1 у человека.

В среднем по трем задачам оптимизированные промпты набрали 56.0 баллов, тогда как лучшие человеческие — 44.6. Это впечатляющая разница, демонстрирующая, что ИИ может находить более эффективные стратегии организации информации, чем эксперты-люди.

Однако самый интересный результат — это дистилляция. После дообучения модель, работающая с общими промптами, набрала в среднем 43.1 балла. Для сравнения, модель, обученная на общих траекториях без дистилляции оптимизированных промптов, набрала всего 37.6 балла. Таким образом, дистилляция принесла прирост в 5.5 баллов (или 14.6%), сохранив значительную часть преимущества, достигнутого за счет оптимизированных промптов. Это доказывает, что навыки управления памятью действительно были перенесены в веса модели.

05Сравнение с другими методами: ALMA, MemEvolve и Harness-Zero

Self-Improving Memory не является единственным методом оптимизации памяти агентов. На рынке существуют и другие подходы, такие как ALMA, MemEvolve и Harness-Zero. Важно понимать, чем выделяется метод Meta FAIR.

ALMA (от исследователей Xiong, Hu, Clune) фокусируется на поиске дизайна памяти как Python-кода. Он не обучает веса модели, а скорее генерирует код, который управляет памятью. MemEvolve (от OPPO AI Agent Team) оптимизирует архитектуру памяти и её содержимое, также без дообучения весов. Harness-Zero (от Университета Пекина, Google и HKUST) ищет полный harness (обвязку) агента и использует LoRA SFT, но применяет отдельного агента для коррекции ошибок студента.

Self-Improving Memory: Как Meta FAIR научила ИИ-агентов управлять памятью

Ключевое отличие Self-Improving Memory в том, что оно объединяет поиск промптов памяти с дистилляцией в веса той же самой модели. Harness-Zero использует отдельного агента-корректора, что добавляет сложность и вычислительные затраты. Метод Meta FAIR пропускает этот шаг, полагаясь на способность самой модели к самосовершенствованию. Это делает систему более элегантной и, потенциально, более масштабируемой.

⚠️
Ограничения поиска. Стоит отметить, что процесс поиска промптов был шумным. Из 44 сгенерированных ревизий только 7 смогли превзойти предыдущий лучший результат. Это подчеркивает важность тщательной оценки и отбора. Не все случайные улучшения работают, и мета-агент должен быть достаточно умным, чтобы отличать полезные изменения от случайных флуктуаций.

06Технические детали и требования к оборудованию

Для тех, кто хочет воспроизвести или использовать подобные методы, важно понимать технические требования. Базовая модель Kimi-K2.6 является огромной. Для её обслуживания требуется мног GPU-нода. По рекомендациям платформы Vast.ai, для комфортной работы с такой моделью необходимо 8 видеокарт NVIDIA H200. Однако исследователи также упоминают наличие нативных весов в формате INT4, что позволяет запускать модель на более скромном оборудовании, хотя и с некоторой потерей точности.

Дистилляция с помощью LoRA rank 64 на слоях внимания требует значительных вычислительных ресурсов, но она менее требовательна, чем полное дообучение модели. Это делает метод более доступным для исследовательских групп с ограниченными бюджетами, чем полные fine-tuning'и больших языковых моделей.

07Что это значит на практике

Метод Self-Improving Memory открывает новые горизонты для создания автономных ИИ-агентов. В практическом смысле это означает, что мы можем создавать системы, которые не требуют постоянной ручной настройки промптов для каждой новой задачи. Агент может самостоятельно адаптироваться к специфике домена. Например, при работе с новым кодовым репозиторием агент сам создаст структуру файлов памяти, оптимальную для этого конкретного проекта, и «запомнит» эту структуру в своих весах.

Для разработчиков это означает снижение операционных расходов на поддержку ИИ-систем. Вместо того чтобы вручную писать и тестировать сотни промптов для разных сценариев, можно запустить процесс самооптимизации один раз, и модель будет продолжать улучшаться. Для бизнеса это переводит ИИ-агентов из категории «экспериментальных инструментов» в категорию «надежных сотрудников», способных к долгосрочному обучению и адаптации.

Однако, как и любой передовой метод, Self-Improving Memory требует осторожного внедрения. Шум в процессе поиска и необходимость в мощных вычислительных ресурсах для базовой модели Kimi-K2.6 могут стать барьером для некоторых пользователей. Тем не менее, направление, выбранное Meta FAIR, выглядит перспективным. Оно смещает фокус с ручного управления контекстом на автоматизированное обучение агентов навыкам саморегуляции.

Исследователи из Университета Вашингтона и Университета Джонса Хопкинса, совместно с Meta FAIR, продемонстрировали, что ИИ способен не только выполнять задачи, но и улучшать сам процесс их выполнения. Это важный шаг к созданию по-настоящему автономных и интеллектуальных систем, которые учатся на собственном опыте, подобно людям.

08Заключение

Self-Improving Memory — это не просто еще один метод оптимизации промптов. Это демонстрация того, как ИИ-агенты могут становиться архитекторами собственной когнитивной структуры. Открывая собственные инструкции для памяти и вшивая их в веса, модель Kimi-K2.6 демонстрирует уровень автономии, который ранее считался недостижимым для текущих поколений ИИ. Хотя метод все еще находится на стадии исследований и не имеет открытого кода, его результаты задают новый стандарт для будущего развития агентов с долговременной памятью. Мы стоим на пороге эры, где ИИ не просто отвечает на вопросы, но и сам решает, что важно помнить, чтобы отвечать лучше.

Источник: MarkTechPost ↗