FlagOpen/FlagEmbedding

Поиск и LLM с дополнением на основе поиска

RAG⭐ 12 180Pythonпоследний релиз: v1.4.2
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

BGE — это универсальный набор инструментов для поиска и RAG, включающий модели эмбеддингов и ранжирования (rerankers).

Зачем нужен

Инструмент решает задачи извлечения информации и улучшения качества ответов LLM за счет точного семантического поиска. Он полезен тем, что предоставляет SOTA-модели для кодирования текста, изображений и мультимедиа, а также легкие ранжеры, оптимизированные для эффективности.

Что можно реализовать

  • Построение систем RAG с использованием эмбеддингов для текстов и мультимедиа (BGE-VL)
  • Точная семантическая поиск по базам знаний с помощью моделей ранжирования (rerankers)
  • Поиск изображений по текстовому запросу и наоборот (text-to-image, image-to-text)
  • Обработка многоязычных данных с помощью моделей на базе Gemma-2

Ключевые возможности

  • Поддержка мультимодального поиска через BGE-VL (текст, изображения, промпты)
  • Наличие легких ранжеров (rerankers) с поддержкой сжатия токенов для экономии ресурсов
  • Многоязычность и SOTA результаты на бенчмарках (MIRACL, MTEB)
  • Лицензия MIT, разрешающая свободное коммерческое и академическое использование
  • Интеграция возможностей in-context learning (ICL) в эмбеддинги для richer semantic representation

👤 Кому подойдёт: разработчики, исследователи, инженеры по машинному обучению

Релизы

v1.4.2patch
🕐 28 дн назад · релиз на GitHub ↗

Выпуск v1.4.2: исправлена совместимость токенизатора с Transformers 5 и обновлена версия пакета.

  • Fixed: Исправлена совместимость токенизатора с Transformers 5.
  • Added: Версия пакета обновлена до 1.4.2.
v1.4.1patch
🕐 29 дн назад · релиз на GitHub ↗

Исправлена совместимость с Transformers v5 для Reranker и Trainer, нормализованы маппинги моделей.

  • Fixed: Исправлен импорт Gemma reranker для совместимости с Transformers v5
  • Fixed: Устранены проблемы совместимости Trainer с Transformers 5
  • Fixed: Добавлена поддержка подготовки токенизатора в Transformers v5 для reranker
  • Fixed: Нормализованы имена маппингов моделей в модуле reranker
v1.4.0major
🕐 5 мес назад · релиз на GitHub ↗

Релиз v1.4.0: запуск BGE-Reasoner, поддержка transformers v5, bf16 для embedder и MRL-интерфейсы.

  • Added: Выпущена модель BGE-Reasoner-preview с новыми SOTA-результатами на BRIGHT.
  • Added: Добавлена совместимость с transformers v5 и поддержка bf16 для embedder.
  • Added: Реализованы интерфейсы MRL для дообучения и инференса, а также pseudo_moe с роутингом.
  • Added: Добавлена поддержка пользовательского train_group_size и метрики evaluate_recall_cap.
  • Fixed: Исправлены ошибки установки pytrec_eval, безопасное получение rank и конвертация numpy.