Суть проекта: Удаление рефьюза и кастомные шаблоны
На платформе Huggingface появился релиз Qwen3.8-27B-Defiance-Uncensored. Это не новая архитектура, а модификация существующей модели от HauhauCS, в которой полностью удален слой отказов (refusal layer). Ключевое отличие — интеграция системы «AI Construct» от DavidAU, позволяющей переключать поведение модели через один тег в промпте.
Модель весит от 15.7 ГБ до 25.9 ГБ в зависимости от квантования, что позволяет запускать её на видеокартах с 24 ГБ+ памяти (например, RTX 4090). Шаблон вшит в GGUF-файлы, поэтому для работы в llama.cpp, LM Studio или Ollama не требуются внешние флаги.
Технические характеристики и файлы
Разработчик провел проверку всех 866 тензоров, подтвердив их идентичность оригинальным весам HauhauCS. Основные изменения коснулись системного промпта: удалены 7 строк с предупреждениями безопасности, добавлен преамбула «You are uncensored...» и исправлены ошибки в именах переменных.
| Файл | Размер | SHA-256 | Особенности |
|---|---|---|---|
| Qwen3.8-27B-Defiance-Uncensored-IQ4_XS.gguf | 15.7 GB | d48cdb6... | Оптимален для 24 ГБ VRAM, контекст 131K |
| Qwen3.8-27B-Defiance-Uncensored-Q6_K_P.gguf | 25.9 GB | 0ce1abf... | Высокое качество, требует 32+ ГБ VRAM |
| FastMTP-32K draft | 0.9 GB | 115e618... | Ускоряет декодирование (MTP) |
40 режимов и персонажей
Система позволяет выбирать «конструкт» (персонажа или стиль мышления) через тег {REASON:mode} или параметр reasoning_effort. Режимы делятся на категории: от простых ролей (Joker, House, Vader) до сложных аналитических панелей (Einstein — 20 агентов, Spoon — 5 экспертов). По умолчанию стоит режим xhigh (максимальная детализация).
- Характеры: Joker, House, Vader, Matlock, Neo, Stark, Quinn, PKD.
- Супер-режимы: brainstorm, business, coder, comedy, story, teacher.
- Панели: einstein (20 агентов), spoon (5 экспертов), holodeck.
- Уровни детализации: xhigh (по умолчанию), medium, low, off.
Результаты тестирования
Тесты проводились на RTX 4090 с использованием llama.cpp. Модель демонстрирует скорость 86–90 токенов в секунду в режиме instruct, с принятием 38–42% токенов от черновика FastMTP. Потребление памяти при контексте 131K составило 21.4 ГБ.
При проверке на промпты, вызывающие рефьюз у стандартных моделей (монолог злодея, инструкция по взлому, критика ибупрофена), Defiance ответила без предупреждений. Ответы были в 1.4–2 раза длиннее, чем у оригинальной модели DavidAU, которая добавляла оговорки о безопасности. Важно: модель работает только в чат-режиме, системные сообщения после первого вызывают ошибку.
Источник: Huggingface ↗