AIKraft Agents
Главная/Блог/Гайд/LEANN: Векторный индекс с нулевым…
Гайд4 мин чтения · 28 октября 2026 г.

LEANN: Векторный индекс с нулевым хранением эмбеддингов

UC Berkeley представила LEANN — революционный индекс, который хранит почти нуль данных, пересчитывая эмбеддинги на лету. Разбор технологии, выигравшей MLSys 2026.

Представьте себе сценарий, который долгое время казался невозможным для инженеров по машинному обучению: запуск мощного семантического поиска и RAG-систем (Retrieval-Augmented Generation) на обычном ноутбуке, без доступа к облачным GPU и терабайтам оперативной памяти. Традиционно, чтобы индексировать миллионы документов для поиска по смыслу, требовалось хранить сами векторные представления (эмбеддинги) на диске, что приводило к колоссальному расходу места. Если у вас есть корпус из миллионов фрагментов текста, классические решения могут потребовать огромного количества дискового пространства только для хранения этих векторов, делая локальный запуск проекта экономически и технически нецелесообразным.

Команда из Sky Computing Lab Калифорнийского университета в Беркли (UC Berkeley) совершила прорыв, представив LEANN — открытый векторный индекс, который делает невозможное возможным. LEANN не хранит эмбеддинги на диске. Вместо этого он сохраняет лишь компактный граф связей и пересчитывает векторы «на лету» в момент запроса. Это не просто оптимизация; это смена парадигмы в архитектуре систем хранения данных для ИИ. Исследование получило награду Best Research Paper на MLSys 2026, подтвердив свою значимость в научном сообществе.

В этой статье мы подробно разберем, как работает LEANN, почему это важно для разработчиков в России и по всему миру, а также какие практические преимущества дает такой подход к хранению данных. Мы рассмотрим технические детали, сравним производительность с традиционными методами и оценим, как эта технология меняет правила игры для локальных AI-ассистентов.

01Что такое LEANN и почему это прорыв?

LEANN (Low-Storage Approximate Nearest Neighbor) — это индекс ближайших соседей, построенный поверх популярной библиотеки FAISS, но с принципиально иной архитектурой хранения. Главная проблема современных векторных баз данных заключается в том, что размер индекса часто превышает размер исходных данных. Например, в исследовании приводится пример корпуса, для которого классический индекс HNSW требует объема эмбеддингов, более чем вдвое превышающего размер исходных данных.

LEANN решает эту проблему, отказываясь от хранения полных векторов. Вместо этого он сохраняет:

  • Обрезанный граф (Pruned Graph): Структура связей между узлами, которая определяет путь поиска.
  • Компактную таблицу Product Quantization (PQ): Сжатое представление, используемое для первичной фильтрации.

Когда поступает запрос, система не ищет по готовым векторам. Она пересчитывает эмбеддинги только для тех узлов, которые находятся на пути поиска. Это позволяет сократить размер индекса с сотен гигабайт до нескольких гигабайт для индекса из 60 миллионов фрагментов Википедии. Такое сжатие делает возможным хранение огромных баз знаний прямо на устройстве пользователя.

💡
Ключевая особенность. LEANN — это индекс, а не большая языковая модель (LLM). Поэтому к нему не применяются ограничения контекстного окна, характерные для LLM. Он работает с бесконечными потоками данных, сжимая их до минимального размера.

02Как работает пересчет без задержек?

Казалось бы, пересчет эмбеддингов для каждого запроса должен быть крайне медленным процессом. Однако LEANN использует три инновационные техники, которые делают этот процесс практически мгновенным для пользователя:

1. Двухуровневый поиск (Two-level search)

Система сначала использует дешевые вычисления расстояний PQ для быстрой оценки кандидатов. Только самые перспективные кандидаты отправляются на этап точного пересчета эмбеддингов. Это позволяет заметно сократить количество ненужных вычислений на раннем этапе.

2. Динамическая пакетная обработка (Dynamic batching)

Кандидаты, собранные за несколько шагов обхода графа, группируются в пакеты. Это позволяет эффективно использовать возможности GPU, обрабатывая множество запросов параллельно, а не последовательно.

3. Сохранение узлов высокой степени (High-degree preserving pruning)

Большинство узлов графа имеют мало связей, но топ-2% узлов («хабы») сохраняют больше связей. Это обеспечивает быстрое соединение между различными частями графа, не перегружая систему избыточными данными.

В абляционных исследованиях (экспериментах по удалению компонентов) было показано, что двухуровневый поиск дает ускорение, а добавление пакетной обработки повышает его еще больше. Несмотря на это, пересчет эмбеддингов все еще занимает значительную часть времени ответа на запрос, что является главным компромиссом технологии.

03Производительность: точность против скорости

Главный вопрос к LEANN: жертвует ли он точностью ради экономии места? Ответ — нет. В бенчмарках на датасетах NQ (Natural Questions), TriviaQA, GPQA и HotpotQA LEANN демонстрирует результаты, сопоставимые с классическим HNSW.

На датасете NQ, используя модель Qwen3-4B на видеокарте RTX 4090, LEANN достиг точности 25.5% на уровне отсечки 90% (Recall@3). Это идентичный результат с HNSW, который использует 188 ГБ памяти. Для сравнения, классический BM25 (поиск по ключевым словам) показал 18.3%, а сжатие PQ — 17.9%. Таким образом, LEANN сохраняет семантическую точность современных векторных баз данных.

Однако цена этой точности — время поиска. На NQ LEANN требует 2.48 секунды на поиск, в то время как HNSW справляется за 0.05 секунды. Для генерации ответа модели требуется около 20 секунд, поэтому общая задержка конвейера (end-to-end latency) возрастает с 20.95 с до 23.34 с. В большинстве сценариев использования, где пользователь ждет ответа от LLM, дополнительные несколько секунд на поиск не являются критичными.

На более сложных датасетах, таких как HotpotQA, время поиск

Источник: MarkTechPost ↗