В мире открытых больших языковых моделей (LLM) вопрос идеологической нейтральности и культурного контекста стоит особенно остро. Китайские модели, такие как семейство Qwen от Alibaba, часто демонстрируют выдающиеся технические характеристики, но их ответы на чувствительные политические темы могут содержать элементы государственной пропаганды или специфического фрейминга, который не всегда совместим с ожиданиями западных разработчиков. Компания Nous Research, известная своими качественными открытыми моделями, выпустила решение, которое напрямую адресует эту проблему. Их новая модель — Arete-27B — представляет собой результат контролируемого обучения с учителем (Supervised Fine-Tuning, SFT) базовой модели Qwen3.8-27B. Главная цель этого проекта — не просто улучшить технические метрики, а «очистить» ответы модели от пропагандистских нарративов, сохранив при этом её мощные агентные способности.
Arete-27B — это 27-миллиардная модель с плотной архитектурой, которая демонстрирует поразительный результат: доля ответов, содержащих пропаганду, снизилась с 22% у базовой модели до всего 0,9% по собственным тестам Nous Research. При этом разработчики подчеркивают, что не использовали ни reinforcement learning (обучение с подкреплением), ни оптимизацию предпочтений (RLHF), ни какие-либо изменения в архитектуре. Это пример того, как точечное, качественное дообучение на специфических данных может решить сложную проблему выравнивания модели (alignment). Все веса, данные для обучения и скрипты оценки полностью открыты под лицензиями Apache 2.0 и MIT, что делает этот проект эталонным для исследователей, работающих над этическими аспектами ИИ.
01Что такое Arete-27B и зачем она нужна?
Arete-27B — это не новая архитектура с нуля, а глубокая переработка существующей модели Qwen3.8-27B. Команда Nous Research выбрала именно эту модель, потому что она на тот момент была одной из самых способных локально развертываемых моделей, способных работать с длинными контекстами и выполнять сложные агентные задачи. Однако при тестировании они столкнулись с тем, что базовая модель часто давала отказы, уклончивые ответы или ответы, сформированные в соответствии с идеологией КПК (Коммунистической партии Китая) на чувствительные темы.
Задача стояла амбициозная: получить модель уровня Qwen по возможностям, но с поведением, сопоставимым с западными аналогами в вопросах свободы слова, демократии и прав человека. Важно отметить, что лицензия Apache 2.0, под которой выпущена Arete-27B, полностью совпадает с лицензией базовой модели, что позволяет коммерческим и исследовательским организациям использовать её без ограничений. Это критически важно для разработчиков, которые хотят внедрять LLM в свои продукты, не опасаясь юридических или этических рисков, связанных с пропагандистским контентом.
02Как проходило обучение: роль учителя Inkling
Процесс обучения Arete-27B интересен своим подходом к выбору «учителя». Обычно для дистилляции знаний используют закрытые или коммерческие модели, но Nous Research решила использовать открытую модель Inkling от Thinking Machines. Выбор был обусловлен желанием избежать ограничений пользовательских соглашений (ToS), которые часто запрещают дистилляцию данных из проприетарных моделей. Кроме того, команда отклонила модель Nemotron 3 Ultra после того, как обнаружила её «пятнистую» репутацию в вопросах, связанных с Китаем, что могло внести искажения в целевое поведение.
Процесс обучения включал обработку около 52,8 миллиона токенов с контекстным окном 64k. Важно, что при этом не использовалась упаковка последовательностей (sequence packing), что упростило процесс и сделало его более предсказуемым. Обучение заняло 2 эпохи и 1 202 шага при размере батча 48. Использовался оптимизатор AdamW с пиковой скоростью обучения 1e-5. Все веса языковой модели были обучены, в то время как энкодер изображений остался замороженным, так как данные были текстовыми. Также была отключена голова многозадачного предсказания токенов (multi-token-prediction head), что характерно для задач, сфокусированных исключительно на качестве текста.
Результирующий набор данных arete-data-pairs содержит 34 878 промптов, охватывающих 7 ключевых тем. Каждый промпт включает как ответ от учителя (Inkling), так и ответ от исходной Qwen. Из них 29 236 принятых ответов учителя были использованы для формирования набора данных для SFT. Это позволило модели научиться воспроизводить стиль и содержание ответов, которые считаются нейтральными и свободными от пропаганды.

03Методология оценки: как измеряется пропаганда?
Одной из самых сложных задач в оценке LLM является объективное измерение «пропаганды». Nous Research разработала собственный набор данных Propaganda_Eval, состоящий из 803 промптов, разделенных на 7 категорий ценностей: свобода выражения, государственная идеология, конфиденциальность данных, демократия и другие. Каждый промпт содержит от 2 до 4 требуемых фактов, взятых из цитируемого источника.
Для оценки используется модель-судья Grok 4.7, которая оценивает два параметра отдельно:
- Fact mean (0-5): Среднее количество требуемых фактов, которые ответ содержит. Если ответ содержит хотя бы один опровергаемый факт, он получает 0 баллов.
- Any propaganda: Доля ответов, которые принимают государственную точку зрения как свою собственную. Для фиксации пропаганды судья должна процитировать точную фразу, указывающую на пропагандистский характер ответа.
Важно отметить, что Nous Research тщательно удалила все промпты из обучающего набора, которые пересекались с набором для оценки, чтобы избежать утечки данных (data leakage). Сам набор для оценки лицензирован под MIT и включает скрипты для автоматической оценки, что обеспечивает прозрачность и воспроизводимость результатов.
04Результаты бенчмарков: цифры говорят сами за себя
Результаты тестирования Arete-27B демонстрируют значительный прогресс по целевым метрикам. По сравнению с базовой Qwen3.8-27B, средний балл за факты (fact mean) вырос с 2,32 до 2,98. Доля ответов с пропагандой упала с 22% до 0,9%. Количество ответов, получивших нулевой балл за факты, сократилось с 359 до 216 из 803.
Наиболее заметные изменения произошли в категории «свобода выражения». Здесь средний балл за факты вырос с 0,89 до 2,44, а уровень пропаганды снизился с 60% до 1%. Это говорит о том, что модель научилась эффективно обходить цензурные фильтры и предоставлять информацию, соответствующую западным стандартам свободы слова.

Что касается общих вычислительных способностей, то модель сохранила свои показатели. На бенчмарке Hermes Bench результат составил 65,60% против 65,77% у базовой модели, что Nous Research называет статистической погрешностью. На Terminal-Bench-2.1 результат вырос с 67% до 70%, хотя команда отмечает, что не берет на себя заслугу за этот рост, так как он может быть связан с особенностями используемой платформы тестирования.
05Сравнение с конкурентами: где стоит Arete-27B?
Чтобы понять место Arete-27B на рынке, рассмотрим её сравнение с другими моделями схожего размера и назначения. В таблице ниже приведены ключевые метрики для Arete-27B, Qwen3.8-27B, Muse Glimmer 30B и Gemma 4 31B.
| Метрика | Arete-27B | Qwen3.8-27B | Muse Glimmer 30B | Gemma 4 31B |
|---|---|---|---|---|
| Разработчик | Nous Research | Alibaba Qwen | Meta | Google DeepMind |
| Параметры | 27B dense | 27B LM, dense | 29.6B (вкл. vision) | 30.7B, dense |
| Контекст | 64k (обучение) | 262k нативно | 131k+ | 256k |
| Лицензия | Apache 2.0 | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| Fact mean (Nous eval) | 2.98 | 2.32 | 3.02 | 2.58 |
| Propaganda (Nous eval) | 0.9% | 22% | 0.5% | 0.5% |
| Terminal-Bench 2.1 | 70% (Nous) | 67% (Nous) | 51.7 (Meta) | Не раскрыто |
| GPQA Diamond | Не раскрыто | 89.2 | 83.5 | 84.3 |
Как видно из таблицы, Arete-27B значительно превосходит базовую Qwen3.8 по метрике пропаганды, приближаясь к показателям западных моделей Muse Glimmer и Gemma. При этом она сохраняет конкурентоспособность в терминальных задачах. Однако стоит отметить, что тестирование проводилось при разных температурах: Arete и Qwen при температуре 0, а Muse и Gemma при 0.6, что может влиять на сравнение. Также GPQA Diamond, важный бенчмарк для проверки знаний, не был протестирован для Arete-27B, что оставляет вопрос о её общих знаниях открытым.
06Как разработчикам запустить Arete-27B?
Веса модели доступны на Hugging Face в формате BF16. На данный момент нет хостинговых провайдеров инференса, которые бы официально поддерживали эту модель, поэтому разработчикам придется запускать её локально или на своих серверах.
Для локального запуска сообщество уже подготовило GGUF-квантования, которые совместимы с популярными инструментами, такими как llama.cpp, LM Studio и Ollama. Размер GGUF-файла варьируется от 8.64 ГБ до 53.81 ГБ в зависимости от степени квантования. Важно, что GGUF-сборка также включает проектор изображений, что позволяет использовать модель в мультимодальных сценариях, хотя само обучение было текстовым.
Для запуска на видеокартах NVIDIA с 24 ГБ VRAM рекомендуется использовать квантование Q4_K_M. Это позволит запустить модель с запасом памяти, что важно для стабильной работы, особенно при работе с длинными контекстами. Для более мощных систем с 80 ГБ VRAM (например, A100/H100) можно использовать BF16 веса для максимальной точности.

07Что это значит на практике?
Выпуск Arete-27B знаменует собой важный шаг в развитии открытых LLM. Он показывает, что можно эффективно «очистить» модель от нежелательного идеологического контента без потери её вычислительной мощи. Для разработчиков это означает возможность использования мощной модели с длинным контекстом и агентными способностями, не рискуя столкнуться с пропагандистскими ответами в своих продуктах.
Особенно актуально это для русскоязычных разработчиков и компаний, работающих в условиях ограничений на доступ к некоторым зарубежным сервисам. Открытые модели, такие как Qwen и их производные, становятся ключевым инструментом для построения локальных AI-инфраструктур. Arete-27B предлагает альтернативу, которая сочетает в себе мощь китайских моделей и нейтральность, ожидаемую от западных стандартов.
Однако стоит помнить о недостатках. Средний балл за факты (2.98 из 5) все еще оставляет желать лучшего, и 216 из 803 ответов получили нулевой балл. Это указывает на то, что модель может допускать галлюцинации или неточности, особенно в сложных темах. Разработчикам следует использовать эту модель с осторожностью и, возможно, комбинировать её с другими источниками информации или системами верификации.
В целом, Arete-27B — это ценный ресурс для сообщества. Она демонстрирует, что прозрачность, открытость данных и четкая цель могут привести к созданию моделей, которые не только технически сильны, но и этически выровнены. Мы рекомендуем разработчикам протестировать эту модель в своих пайплайнах, особенно если они работают с темами, требующими нейтральности и точности.
08Заключение
Arete-27B от Nous Research — это не просто еще одна модель в длинном списке релизов. Это демонстрация того, как целенаправленное дообучение может решить конкретную проблему идеологического выравнивания. Снижение уровня пропаганды с 22% до 0,9% при сохранении агентных способностей — это впечатляющий результат, который открывает новые возможности для использования открытых LLM в коммерческих и исследовательских целях. Мы будем следить за развитием этой модели и её адаптацией в различных сценариях использования.
Источник: MarkTechPost ↗
