1. Архитектура: Выход за рамки контекстного окна
Классические LLM-ассистенты ограничены длиной контекста. Letta решает эту проблему через Stateful Engineering Copilots — агентов с управляемой долговременной памятью. Вместо того чтобы хранить всё в одном промпте, система разделяет данные на изолированные блоки (Memory Blocks), которые агент может автономно обновлять, читать и архивировать. Это позволяет создавать системы, которые «помнят» контекст проекта неделями, а не минутами.
2. Core Memory: Структурированное хранение знаний
В основе архитектуры лежат четыре типа блоков памяти, каждый из которых имеет лимит символов и конкретное назначение. Агент сам решает, когда и куда записать информацию, опираясь на инструкции Persona.
| Блок памяти | Назначение | Лимит | Пример содержимого |
|---|---|---|---|
| Persona | Роль и стиль общения агента | 3000 chars | «Я Mnemo, инженерный копилот. Краток, конкретен, не выдумываю факты.» |
| Human | Профиль пользователя (имя, стек, предпочтения) | 3000 chars | «Priya, Staff Engineer. Стек: Rust, Kafka. Любит буллиты, не любит эссе.» |
| Project State | Живое состояние проекта: вехи, блокеры, решения | 5000 chars | «Блокер: rebalance Kafka каждые 4 мин. Решение: вынести коммиты из poll loop.» |
| Lessons | Уроки и ошибки (append-only) | 2000 chars | «Не предлагать увеличение session.timeout.ms — не помогло.» |
3. Практика: Саморедактируемая память и интеграция с кодом
Агент не просто хранит данные, он их актуализирует. В примере с инженером Priya, после первого сообщения агент сохраняет её профиль и стек. Во втором сообщении, получив обратную связь по багу с Kafka, он автоматически обновляет блок Project State и добавляет запрет на повторные предложения в блок Lessons.
Кроме того, память доступна программно. Разработчик может напрямую записать данные в блок project_state из своего кода (например, статус CI/CD пайплайна), и агент мгновенно увидит это в контексте при следующем запросе.
4. Multi-Agent Collaboration: Общий контекст
Letta позволяет связывать нескольких агентов через общие блоки памяти. В демо-сценарии создаются два агента:
- Copilot (разработчик): пишет код, обновляет статус проекта.
- Reviewer (ревьюер): проверяет код.
Оба агента имеют доступ к общим блокам policies (строгие правила, read-only) и team_scratchpad (черновик для заметок). Это обеспечивает согласованность действий без необходимости передавать весь чат между агентами.
5. Дополнительные возможности
Полноценная архитектура включает:
- Archival Vector Memory: Семантический поиск по архивным данным для извлечения релевантной информации из больших объемов.
- Streaming: Поток вывода для наблюдения за ходом рассуждений агента в реальном времени.
- Portable Workflows: Экспорт конфигурации агента в формат
.afдля переноса между средами.
Использование моделей openai/gpt-4.1 или anthropic/claude-sonnet-4 в связке с этой архитектурой позволяет создавать надежные инженерные инструменты, способные работать с сложным, изменяющимся контекстом.
Источник: MarkTechPost ↗