Смена парадигмы: от RAG к агентному поиску
SID AI выпустила SID-2 — специализированную модель для агентного поиска, которая заменяет статические пайплайны RAG (Retrieval-Augmented Generation). В отличие от традиционных подходов, где этапы переписывания запроса, эмбеддинга и ранжирования идут в фиксированном порядке, SID-2 действует итеративно: модель ищет, читает результаты, адаптирует стратегию и ищет снова. На выходе она возвращает не текст, а ранжированный список ID документов, что позволяет интегрировать её в любые бэкенды без переиндексации данных.
Технические характеристики и обучение
Модель поддерживает контекстное окно в 256k–262k токенов и обучалась с использованием двухэтапного усиленного обучения (RL). Первый этап оптимизировал только качество поиска, а второй добавил штраф за задержку (latency penalty), применяемый только к положительным наградам. Для генерации сложных запросов использовался цикл self-play между пропозером и решателем на базе предыдущей версии SID-1.
Разработчикам доступны три уровня «усилия рассуждения» (Low, Medium, High) и функция Metric Steering, позволяющая настраивать оптимизацию под конкретные метрики: NDCG, F1 или Recall@k (от 1 до 50).
Результаты бенчмарков: SID-2 против GPT-6 Astra и Claude Opus 5.5
На собственном наборе данных из 506 вопросов (19 корпусов, включая SEC filings, PubMed, HotpotQA) SID-2 показала выдающиеся результаты. Режим Swarm (рой агентов) установил новый рекорд качества, значительно опередив конкурентов по скорости и стоимости.
| Модель / Режим | Тип | NDCG (SID Benchmark) | Время на запрос | Стоимость (1k запросов) |
|---|---|---|---|---|
| SID-2 Swarm (12 агентов) | Multi-agent search | 0.720 | Не указано (зависит от кол-ва агентов) | $263 |
| GPT-6 Astra (max) | General LLM | 0.704 | 135 s | $2,141 |
| SID-2 Swarm (6 агентов) | Multi-agent search | 0.701 | 17.7 s | $263 |
| SID-2 Medium | Agentic search | 0.585 | 3.11 s | $6.54 |
| Claude Opus 5.5 (medium) | General LLM | 0.577 | 25.1 s | $131 |
Как видно из таблицы, SID-2 Swarm с 12 агентами достиг наивысшего показателя NDCG (0.720), превзойдя GPT-6 Astra. При этом базовый режим SID-2 Medium обходит Claude Opus 5.5 по качеству (0.585 против 0.577) и выигрывает в скорости почти в 8 раз (3.11 с против 25.1 с), а стоит в 20 раз дешевле.
Стоимость и доступность
SID-2 доступна через API на платформе platform.sid.ai, а также через Baseten и AWS SageMaker. SDK предоставлены для Python, TypeScript и Go. Цены начинаются с $0.25 за миллион входных токенов и $1.00 за выходные. Для Swarm-режима цены выше ($0.50/$2.00), но всё равно остаются значительно ниже стоимости использования крупных универсальных LLM для задач поиска.
Почему это важно
Релиз SID-2 демонстрирует тренд на специализированные модели, которые выигрывают у универсальных гигантов за счёт узкой оптимизации под конкретную задачу (поиск) и архитектуры «роя». Отсутствие необходимости в переиндексации данных делает SID-2 привлекательным решением для корпоративных систем с большими объемами неструктурированной информации. Однако стоит отметить, что все метрики являются самоотчетными, а размер модели и веса пока не раскрыты.
Бенчмарки
| Бенчмарк | SID-2 Medium | SID-2 Swarm (12 agents) | SID-2 Swarm (6 agents) | GPT-6 Astra (max) |
|---|---|---|---|---|
| SID NDCG Benchmark | 0.585score | 0.72score | 0.701score | 0.704score |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗
