Суть обновления: от генерации к классификации
Perplexity представила pplx-decider-v1.3 (27B) и pplx-decider-flash-v1.3 (4B). Это не обычные LLM, а decision models (модели принятия решений), вдохновленные архитектурой TypeSafe Jev. Их задача — не генерировать текст, а возвращать вероятности для вариантов ответа (yes/no, множественный выбор, оценка) на основе входных данных (текст или изображение).
Ключевое нововведение v1.3 — функция Locate. Она извлекает точные текстовые спаны (с указанием символьных смещений start/end) по инструкциям или типам полей. Это критично для задач NER, обнаружения PII и извлекаемого QA. Архитектурно это реализовано через добавление токена <|locate|> и отдельного LoRA-адаптера, который не мержится с основными весами, чтобы не снижать точность классификации.
Технические характеристики и требования
Модели базируются на Qwen3 (27B и 4B), но с модифицированным выходным слоем: LM head обрезан до токенов опций, а полносвязные слои внимания сделаны двунаправленными. Обучение проходило в 3 этапа: полный fine-tune, LoRA-специализация и LoRA-визуальный адаптер. Flash-версия дистиллирована из большой модели через минимизацию KL-дивергенции.
| Параметр | Decider v1.3 | Decider Flash v1.3 | Конкурент (Jev 1.14) |
|---|---|---|---|
| Размер | 27B (HF: 26B) | 4B (HF: 5B) | Не раскрыто |
| Память (BF16) | ~49 GiB | ~8.5 GiB | Hosted only |
| Контекст (API) | до 256K токенов | до 256K токенов | 262,144 |
| Лицензия | Apache 2.0 | Apache 2.0 | Закрытая (API) |
| Цена (API) | $0.02 / 1M input | $0.01 / 1M input | $0.042 / 1M input |
Производительность: цифры и бенчмарки
Perplexity сообщает о лидерстве v1.3 в большинстве тестов. Модель демонстрирует высокую стабильность: при изменении порядка или переименовании опций ответ меняется лишь в 0.27% случаев (против 2.69–4.84% у Jev 1.14). В реальных запросах (1 млн запросов, 2.3 млн вопросов) согласованность с фронтьерными LLM-судьями составила 93.98%.
- Классификация запросов (63 задачи): 91.6% точности (на 6.54 п. выше продакшн-классификаторов).
- Ретrieve и reranking (72 задачи): nDCG@10 = 83.99 (превосходит Qwen3-Reranker-8B на 1.81 п.).
- Мультиязычность (19 задач, 8 языков): 88.16% для v1.3 против 85.41% у Jev 1.14.
- Locate: средний балл 69.0. Это самый низкий показатель среди метрик, но он все равно значительно выше Liquid d1 (43.3) и GLiNER large v2.5 (33.6).
Деплой и стоимость
Веса доступны на Hugging Face под лицензией Apache 2.0. Локальный запуск требует GPU с ~49 GiB памяти для полной версии и ~8.5 GiB для Flash. API-интеграция доступна через POST https://api.perplexity.ai/v1/decisions и на платформе OpenRouter. Запрос на 243K токенов обрабатывается за 16 секунд (v1.3) и 5 секунд (Flash). Выходные токены в API бесплатны, плата взимается только за ввод.
Бенчмарки
| Бенчмарк | pplx-decider-v1.3 | GLiNER large v2.5 | Jev 1.14 | Liquid d1 | Qwen3-Reranker-8B | pplx-decider-flash-v1.3 |
|---|---|---|---|---|---|---|
| Retrieval and reranking (nDCG@10) | 83.99score | — | 81.75score | — | 82.18score | — |
| Multilingual | 88.16% | — | 85.41% | — | — | 86.5% |
| Locate | 69score | 33.6score | — | 43.3score | — | 63.6score |
| Image classification | 76.99% | — | — | — | — | 72.77% |
| Real-world requests (Judge agreement) | 93.98% | — | 93.35% | — | — | — |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗
