Суть прорыва: эффективность пост-обучения
Компания RadixArk выпустила модель DaisyRose-27B, построенную на архитектуре Qwen3.8-27B. Ключевое отличие — применение reinforcement learning (RL) с использованием собственного фреймворка Miles. Модель обучалась на задачах долгосрочных агентов (long-horizon agent tasks) с сессиями до 1 млн токенов. Всего за 18 дней на кластере из 144 GPU NVIDIA H200 было обработано 1 200 тщательно отобранных задач.
Модель сохраняет оригинальный токенизатор, шаблон чата, поддержку изображений и контекстное окно в 256K токенов. Чекпоинты доступны в форматах BF16, FP8 и NVFP4 под лицензией Apache 2.0.
Результаты бенчмарков: рост точности
Главный показатель эффективности — Terminal-Bench 4.1. Модель улучшила результат pass@1 с 5.6% до 12.0%, что является значительным скачком для задач терминального взаимодействия. Также зафиксирован рост на других тестах по кодингу и логике:
| Бенчмарк | Qwen3.8-27B (Baseline) | DaisyRose-27B (RL) | Прирост |
|---|---|---|---|
| Terminal Bench 4.1 | 5.6% | 12.0% | +6.4 п.п. |
| Terminal Bench 2.1 | 73.0 | 75.5 | +2.5 |
| DeepSWE v1.1 | 42.2 | 46.2 | +4.0 |
| SWE Bench Pro v2 | 91.3 | 94.7 | +3.4 |
| GPQA Diamond | 89.2 | 90.7 | +1.5 |
Техническая архитектура: Miles и AgentENV
Обучение проходило в полностью асинхронном режиме. 128 GPU H200 выполняли инференс агентов, а 16 GPU занимались обучением. Это позволило избежать простоев: модель обновлялась после каждого шага. Фреймворк Miles показал высокую эффективность:
- MFU (Model FLOPs Utilization): 37% против 16% у открытых аналогов (Megatron). Это снизило стоимость обучения на 57%.
- Скорость: 16 800 токенов/сек против 8 300 токенов/сек у open-source решений (в 2 раза быстрее).
- Стабильность: Обучение длилось 63 000 GPU-часов без деградации производительности.
Для изоляции задач использовался сервис AgentENV. За 9 недель работы было создано ~944 000 песочниц с успешностью 99.95%. Затраты на инфраструктуру песочниц оказались на 80% ниже, чем у популярных облачных провайдеров, благодаря динамическому распределению памяти.
Как запустить и зачем это нужно
Для инференса рекомендуется использовать SGLang с speculative decoding. Модель по умолчанию «думает» перед ответом, возвращая процесс рассуждения в поле reasoning_content и итоговый ответ в content. Это критически важно для разработчиков AI-агентов, которым нужны не просто ответы, а прозрачные цепочки рассуждений для отладки и верификации.
RadixArk подчеркивает, что качество данных важнее их количества: в финальный датасет вошли только 1 200 задач из тысяч кандидатов, отобранных по критерию «исправления конкретных ошибок» базовой модели. Это демонстрирует тренд на высококачественное, целевое RL-обучение вместо «массового» сбора данных.
Бенчмарки
| Бенчмарк | DaisyRose-27B | Qwen3.8-27B |
|---|---|---|
| Terminal Bench 4.1 | 12% | 5.6% |
| Terminal Bench 2.1 | 75.5% | 73% |
| DeepSWE v1.1 | 46.2% | 42.2% |
| SWE Bench Pro v2 | 94.7% | 91.3% |
| HLE (text-only) | 34.3% | 33.9% |
| IFBench | 82.4% | 79.5% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: Hugging Face blog ↗
