Суть проекта: имитация, а не дистилляция
Разработчик сообщества GnLOLot представил модель MiniCPM5-1B-Claude-Opus-Fable5-Thinking. В основе лежит архитектура MiniCPM5-1B от OpenBMB (1.08B параметров, 24 слоя, GQA, контекст 128K). Ключевой момент: это не классическая дистилляция весов (которая невозможна для закрытых моделей вроде Claude), а Supervised Fine-Tuning (SFT) на текстовых трейсах рассуждений, сгенерированных Claude Opus.
Модель учится имитировать формат ответа и стиль «мышления» (Think/No Think), но не наследует глубинные способности учителя. 1B параметров физически не могут вместить frontier-логик, поэтому результат — это стилистический клон, а не копия интеллекта.
Технические характеристики и веса
Модель доступна в формате GGUF для совместимости с llama.cpp, Ollama, LM Studio, Jan и KoboldCpp. Ниже приведены доступные квантования и их вес:
| Квантование | Примерный вес | Примечание |
|---|---|---|
| Q4_K_M | ~657 MB | Минимальный размер, «самый маленький отпечаток» |
| Q5_K_M | ~751 MB | — |
| Q8_0 | ~1.1 GB | Рекомендуемый разработчиком вариант по умолчанию |
| F16 | ~2.1 GB | Полная точность |
Как запустить и параметры
Модель не требует API-ключей и не делает облачных запросов. Для запуска в Ollama используется команда:
ollama run hf.co/GnLOLot/MiniCPM5-Claude-Opus-Fable5-Thinking:Q4_K_M
Для режима «мышления» (Think mode) рекомендуются параметры сэмплирования: temperature=0.9, top_p=0.95. Модель может генерировать блоки рассуждений перед финальным ответом, которые приложения могут фильтровать.
Критические ограничения и риски
- Отсутствие бенчмарков: Ни метрик качества, ни датасета обучения не опубликовано. Заявления о улучшении кода и следования инструкциям не верифицированы.
- Лицензионные вопросы: Базовые веса MiniCPM5 лицензированы под Apache-2.0, но использование трейсов Claude Opus поднимает юридические вопросы, которые автор карточки модели не разрешил.
- Ожидания: Модель передает формат, а не способность к сложному логическому выводу уровня Claude Opus.
Источник: MarkTechPost ↗