Новый стандарт дешевых классификаторов
Компания Together AI выпустила экспериментальную модель together/Tev1-4B-experimental на базе Qwen3.5 4B. Это прямой аналог популярного классификатора Jev, способный быстро обрабатывать текстовые запросы и выдавать структурированные ответы (score, boolean, multiple choice). Модель предназначена для задач автоматической маршрутизации обращений, анализа тональности и категоризации документов.
Экономика обучения: 38 000 примеров за $17
Ключевое преимущество подхода — минимизация затрат. Вместо использования огромных датасетов, Together AI рекомендует выборку из 37 840 примеров, смешанных из различных источников. Это позволяет снизить стоимость обучения до ~$17, что делает технологию доступной для стартапов и небольших команд.
| Источник данных | Тип задачи | Кол-во примеров |
|---|---|---|
| Programmatic policies | Применение правил | 13 500 |
| Routing | Принятие решений | 6 000 |
| MultiNLI | Поддержка/противоречие | 5 000 |
| Research taxonomy | Классификация статей | 3 840 |
| BoolQ | Да/Нет по контексту | 3 000 |
| Banking77 | Банковские интенты | 3 000 |
| SST-5 | Уровень тональности | 2 000 |
| AG News | Классификация новостей | 1 500 |
| Итого | — | 37 840 |
Техническая реализация и инфраструктура
Процесс полностью автоматизирован через репозиторий tev1 на GitHub. После нормализации данных скрипт train_together.py загружает датасет и запускает fine-tuning. Обучение занимает около 25 минут. Для деплоя используется выделенный endpoint на GPU NVIDIA H100 80GB, что обеспечивает низкую латентность при инференсе.
Практическое применение
Модель работает с JSON-структурой, где state содержит текст, question — запрос, а options — варианты ответов. Пример использования: обработка жалобы клиента на двойное списание средств ($19.99 дважды). Модель корректно классифицирует интент как "duplicate_charge", что позволяет автоматически маршрутизировать тикет в нужный отдел поддержки без участия человека.
Источник: Together AI ↗