AIKraft Agents
Релиз модели18 ноября 2026 г., 23:19 МСК🤖 Auto

DaisyRose-27B: RL-оптимизация Qwen3.8 за 18 дней на 144 GPU

RadixArk представила DaisyRose-27B — модель на базе Qwen3.8-27B, обученную через RL. Прирост на Terminal-Bench 4.1 с 5.6% до 12.0% достигнут за 18 дней и 63 000 GPU-часов.

Баннер новости 12230

Суть прорыва: эффективность пост-обучения

Компания RadixArk выпустила модель DaisyRose-27B, построенную на архитектуре Qwen3.8-27B. Ключевое отличие — применение reinforcement learning (RL) с использованием собственного фреймворка Miles. Модель обучалась на задачах долгосрочных агентов (long-horizon agent tasks) с сессиями до 1 млн токенов. Всего за 18 дней на кластере из 144 GPU NVIDIA H200 было обработано 1 200 тщательно отобранных задач.

Модель сохраняет оригинальный токенизатор, шаблон чата, поддержку изображений и контекстное окно в 256K токенов. Чекпоинты доступны в форматах BF16, FP8 и NVFP4 под лицензией Apache 2.0.

Результаты бенчмарков: рост точности

Главный показатель эффективности — Terminal-Bench 4.1. Модель улучшила результат pass@1 с 5.6% до 12.0%, что является значительным скачком для задач терминального взаимодействия. Также зафиксирован рост на других тестах по кодингу и логике:

Бенчмарк Qwen3.8-27B (Baseline) DaisyRose-27B (RL) Прирост
Terminal Bench 4.1 5.6% 12.0% +6.4 п.п.
Terminal Bench 2.1 73.0 75.5 +2.5
DeepSWE v1.1 42.2 46.2 +4.0
SWE Bench Pro v2 91.3 94.7 +3.4
GPQA Diamond 89.2 90.7 +1.5

Техническая архитектура: Miles и AgentENV

Обучение проходило в полностью асинхронном режиме. 128 GPU H200 выполняли инференс агентов, а 16 GPU занимались обучением. Это позволило избежать простоев: модель обновлялась после каждого шага. Фреймворк Miles показал высокую эффективность:

  • MFU (Model FLOPs Utilization): 37% против 16% у открытых аналогов (Megatron). Это снизило стоимость обучения на 57%.
  • Скорость: 16 800 токенов/сек против 8 300 токенов/сек у open-source решений (в 2 раза быстрее).
  • Стабильность: Обучение длилось 63 000 GPU-часов без деградации производительности.

Для изоляции задач использовался сервис AgentENV. За 9 недель работы было создано ~944 000 песочниц с успешностью 99.95%. Затраты на инфраструктуру песочниц оказались на 80% ниже, чем у популярных облачных провайдеров, благодаря динамическому распределению памяти.

Как запустить и зачем это нужно

Для инференса рекомендуется использовать SGLang с speculative decoding. Модель по умолчанию «думает» перед ответом, возвращая процесс рассуждения в поле reasoning_content и итоговый ответ в content. Это критически важно для разработчиков AI-агентов, которым нужны не просто ответы, а прозрачные цепочки рассуждений для отладки и верификации.

RadixArk подчеркивает, что качество данных важнее их количества: в финальный датасет вошли только 1 200 задач из тысяч кандидатов, отобранных по критерию «исправления конкретных ошибок» базовой модели. Это демонстрирует тренд на высококачественное, целевое RL-обучение вместо «массового» сбора данных.

Бенчмарки

БенчмаркDaisyRose-27BQwen3.8-27B
Terminal Bench 4.112%5.6%
Terminal Bench 2.175.5%73%
DeepSWE v1.146.2%42.2%
SWE Bench Pro v294.7%91.3%
HLE (text-only)34.3%33.9%
IFBench82.4%79.5%

Жирным — лучший результат в строке. Источник цифр — официальная публикация.

Источник: Hugging Face blog ↗