Проблема мультиязычных RAG-систем
Современные системы генерации с дополнением (RAG) для нескольких языков критически зависят от обученных ретриверов. Они используют семантическое сходство для ранжирования документов, что часто приводит к ошибкам при кросс-лингвистическом поиске и требует огромных вычислительных затрат на индексацию. Авторы работы, опубликованной в arXiv (6 ноября 2026 года), предлагают парадигму Retriever-Free (без ретривера), где модель взаимодействует с сырыми данными напрямую.
Архитектура MARS: Прямое взаимодействие с корпусом
Модель MARS (Multilingual Search Agent) использует подход DCI (Direct Corpus Interaction). Вместо поиска по векторной базе данных агент генерирует исполняемые shell-команды для навигации по текстовому корпусу. Это решает проблему «потери» сущностей при переводе запроса, но создает новую задачу: модель должна точно генерировать поисковые действия, так как она чувствительна к поверхностным формам сущностей (имена, даты, коды).
Ключевые инновации: Grounding и Reward
Для обучения агента авторы внедрили две критические компоненты:
- Corpus-native entity grounding: Механизм привязки сущностей непосредственно к корпусу. Это позволяет восстанавливать надежные лексические якоря из доказательств, снижая вероятность провала поиска.
- Redundancy-aware search reward: Специальная функция вознаграждения, aware (осведомленная) о избыточности. Она поощряет краткие и эффективные траектории поиска, предотвращая коллапс обучения (training collapse) в мультиязычных сценариях, когда модель начинает генерировать бесконечные бессмысленные запросы.
Результаты и сравнение
Эксперименты показали, что MARS стабильно превосходит сильные базовые модели как с ретриверами, так и с прямым взаимодействием (DCI). Главная метрика успеха — значительное снижение избыточных взаимодействий с корпусом при сохранении высокой точности кросс-лингвистической генерализации.
| Характеристика | Традиционный RAG | MARS (Retriever-Free) |
|---|---|---|
| Механизм поиска | Векторная индексация + семантическое сходство | Генерация shell-команд для сырого текста |
| Кросс-лингвист. ошибки | Высокий риск (из-за расхождения эмбеддингов) | Низкий риск (через entity grounding) |
| Затраты на индексацию | Высокие (построение и хранение индексов) | Отсутствуют (работа с raw corpus) |
| Обучение | Supervised Fine-Tuning (SFT) | Reinforcement Learning (RL) с редунданс-ревардом |
Значение для индустрии
Работа демонстрирует сдвиг парадигмы: от поиска «похожих документов» к точному извлечению фактов через алгоритмические действия. Это особенно важно для нишевых или мультиязычных доменов, где построение качественных векторных индексов затруднено или экономически нецелесообразно.
Источник: arXiv cs.CL ↗