От генерации текста к выбору решений
Компания Unsloth представила новую возможность: превращение больших языковых моделей (LLM) в Decision Models. В отличие от стандартных чат-ботов, эти модели не генерируют свободный текст, а анализируют входные данные, оценивают предложенные варианты и возвращают конкретный выбор с вероятностью. Архитектура использует «голову» (head), аналогичную проекту Clef от Cloudflare, что позволяет модели работать как классификатор.
Инструмент поддерживает тонкую настройку (fine-tuning) популярных моделей, таких как Qwen3.5 и Gemma 4, с использованием метода LoRA. Это позволяет создавать конкурентов популярным агентам типа Jev и Laya, используя собственные данные или открытые датасеты.
Результаты бенчмарков и эффективность
Тестирование проводилось на деคอนтаминированных наборах данных (typed-decisions, BANKING77, CLINC150). Результаты показывают значительный скачок точности после обучения всего за один эпоху. Например, модель Qwen3.5-0.8B увеличила точность на датасете typed-decisions с 36% (уровень случайного угадывания) до 73%.
Ниже приведено сравнение производительности и требований к ресурсам для различных моделей:
| Модель | Точность (Test Accuracy) | VRAM (память GPU) | Время обучения |
|---|---|---|---|
| Qwen3.5-0.8B | 78% | 4 GB | 42 мин |
| Qwen3.5-2B | 81% | 8 GB | 40 мин |
| Llama 3.2 3B | 79% | 4.1 GB | 30 мин |
| Gemma 4 E4B | 77% | 14.4 GB | 49 мин |
| Laya (fine-tuned) | 77% | 2.5 GB | 10 мин |
Как это работает технически
Обучение происходит с использованием датасетов, содержащих состояние (state), вопросы для принятия решения и правильные ответы (gold answers). Unsloth использует 12 различных источников данных, включая arc, mmlu, snli и другие. Для достижения лучших результатов рекомендуется использовать 2 эпохи, ранг LoRA (r) равный 16 и скорость обучения (learning rate) 2e-4.
После обучения модель проходит калибровку, чтобы вероятности соответствовали реальной уверенности модели. Затем LoRA-адаптеры и «голова» сохраняются, и модель можно запустить через Decision API. Это позволяет интегрировать кастомного агента в существующие пайплайны, заменив стандартные эндпоинты Laya или Jev.
Доступность и запуск
Инструмент полностью бесплатен. Пользователи могут установить его через Unsloth Desktop (поддерживает macOS, Windows, Linux) или через Python-библиотеку. Для быстрого старта доступны бесплатные ноутбуки в Google Colab и Kaggle, предоставляющие GPU-ресурсы. Код для обучения доступен через API FastDecisionModel, что позволяет разработчикам легко внедрять логику принятия решений в свои приложения.
Источник: Unsloth ↗