v5.22.1patch
Исправлена документация: удалена черновая версия описания для модели Ml4.
- Fixed: Удалена черновая документация для модели Ml4.
- Релиз содержит только исправления документации, новые функции отсутствуют.
huggingface/transformers
🤗 Transformers: фреймворк для определения моделей для state-of-the-art машинного обучения в тексте, зрении, аудио и мультимодальных моделях, как для inference, так и для training.
Обучение⭐ 168 574Pythonпоследний релиз: v5.22.1
Что это за инструмент
Transformers — это фреймворк для определения моделей машинного обучения, обеспечивающий единый интерфейс для работы с текстом, изображением, аудио и мультимодальными моделями.
Зачем нужен
Инструмент решает задачу унификации определений моделей, позволяя использовать одни и те же архитектуры в различных фреймворках обучения (PyTorch, DeepSpeed, Axolotl) и инференса (vLLM, TGI, llama.cpp). Это упрощает внедрение state-of-the-art моделей как для инференса, так и для дообучения, обеспечивая совместимость в экосистеме.
Что можно реализовать
- Быстрый запуск предобученных моделей для инференса (текст, vision, audio) через единый API
- Дообучение (fine-tuning) современных моделей на собственных данных с использованием PyTorch или распределенных фреймворков
- Интеграция моделей Hugging Face Hub в сторонние движки инференса, такие как vLLM или SGLang
- Разработка мультимодальных приложений, объединяющих обработку текста, изображений и аудио
Ключевые возможности
- Единое определение моделей, совместимое с большинством обучающих и инференс-фреймворков
- Поддержка широкого спектра задач: NLP, компьютерное зрение, аудио и мультимодальные модели
- Прямая интеграция с Hugging Face Hub для доступа к более чем 1 млн чекпоинтов
- Поддержка как инференса, так и полного цикла обучения моделей
- Активная экосистема и поддержка новых state-of-the-art архитектур
👤 Кому подойдёт: Разработчики ML, исследователи, инженеры по машинному обучению, работающие с предобученными моделями и нуждающиеся в стандартизированном интерфейсе для их использования и дообучения.
Релизы
v5.22.0majorbreaking
Добавлена поддержка модели Mistral Large 4, улучшена FP8-квантование для адаптеров и исправлены ошибки.
- Added: Добавлена поддержка модели Mistral Large 4 (1T параметров, мультимодальная, 1M контекст)
- Added: Появилась возможность обучения адаптеров (LoRA) на весах в FP8-квантовании
- Breaking: Логика EP (Expert Parallelism) вынесена в отдельный файл
- Fixed: Исправлена булева падинг в ClapFeatureExtractor и ошибка в Janus Processor
- Added: Добавлена поддержка Nemotron 3.5 Transcribe и улучшена диаризация (Nemotron3Diarization)
v5.21.1patch
Исправлена ошибка в сеттере rope_scaling для конфигураций, где он присваивается при инициализации, что ломало загрузку кода в vLLM.
- Fixed: Исправлена ошибка в сеттере rope_scaling для конфигураций, присваивающих его в методе init.
- Fixed: Восстановлена возможность загрузки удалённого кода в vLLM, которая была нарушена в предыдущей версии.
v5.21minor
Релиз v5.21.0: добавлена поддержка моделей MiniCPM-OCR, Flint, UltraVBert, Gradium Phonon TTS и Pocket TTS.
- Added: Добавлена поддержка модели MiniCPM-OCR для анализа документов с плотным текстом.
- Added: Реализована поддержка модели Flint — MoE-модели с гибридным вниманием от Recursive.
- Added: Добавлена модель UltraVBert для визуального понимания и поиска документов.
- Added: Включена поддержка TTS-моделей Gradium Phonon TTS и Pocket TTS.
- Added: Добавлен аудио-токенизатор Pocket TTS на базе архитектуры Mimi с непрерывным узким местом.
v5.20.2patch
Исправлена потеря типов входных данных в generate для мультимодальных моделей, устранены проблемы с градиентами MoE и оптимизированы маски.
- Fixed: Исправлена потеря исходных типов входных данных в prepare_inputs_for_generation, что решало проблемы с мультимодальными моделями.
- Fixed: Устранена ошибка с нулевыми градиентами экспертов при использовании bfloat16, экспертного параллелизма и ep_size < fsdp_size.
- Fixed: Объявлены входные модальности для VLM, которые сообщают только о тексте.
- Fixed: Избегано копирование с хоста на устройство в eager_mask для повышения производительности.
v5.20.1minor
Релиз v5.20.1: добавлена поддержка модели Beam, исправлены ошибки загрузки на старых версиях PyTorch и в работе MoE.
- Added: Добавлена поддержка новой модели Beam от Reflection AI, оптимизированной для кодинга и агентов.
- Fixed: Исправлена загрузка моделей на старых версиях PyTorch (требование torch>=2.8 для распределенного чекпоинтинга).
- Fixed: Исправлена работа DtensorShardOperation на PyTorch 2.6 и 2.7.
- Fixed: Устранена ошибка присваивания изображений в HunYuan-VL при пакетной генерации.
- Fixed: Исправлена работа DeepGEMM Mega MoE в условиях экспертного параллелизма.
v5.20.0minor
Релиз v5.20.0 добавляет поддержку Muse Spark Open, Ling 3.0, Kolibri1, MiniCPM-V 4.7, UnlimitedOcr и UltraBERT.
- Added: Добавлена поддержка Muse Spark Open — мультимодальной MoE-модели от Meta с контекстом до 1 млн токенов
- Added: Интегрирована Ling 3.0 Flash от InclusionAI с гибридной архитектурой KDA и MLA
- Added: Добавлена модель Kolibri1 от Aleph Alpha для рассуждений на немецком и английском языках
- Added: Обновлена MiniCPM-V 4.7 с поддержкой canvas M-RoPE для лучшей работы с пространственными данными
- Added: Добавлены модели UnlimitedOcr от Baidu и семейство энкодеров UltraBERT
v5.19.0majorbreaking
Добавлена модель EmbeddingGemma2, улучшено экспертное параллелизм MoE, исправлен кэш и устарел префикс paged| для внимания.
- Added: Добавлена мультимодальная модель EmbeddingGemma2 для кодирования текста, изображений, аудио и видео в единое векторное пространство.
- Breaking: Все модели MoE теперь возвращают router_logits при output_router_logits=True, что требует обновления кода для чтения этих значений.
- Deprecated: Устарел префикс paged| для SDPA и FlashAttention; следует использовать обычные реализации (sdpa, flash_attention_2) для непрерывного батчинга.
- Added: Внедрена диспетчеризация токенов для экспертного параллелизма (EP), теперь размер EP не обязан совпадать с TP, и Trainer адаптирован для работы с EP.
- Fixed: Исправлена работа кэша для квантованных моделей и добавлена конфигурация кэша на уровне слоя для DynamicCache и StaticCache.
v5.18.0majorbreaking
Добавлены модели Nemotron 3 Diarization, NemotronH Omni, HyperCLOVAX Vision V2 и GTE; внесены ломающие изменения.
- Added: Добавлена модель Nemotron 3 Diarization для потоковой и офлайн-диаризации говорящих с настраиваемой задержкой.
- Added: Добавлена мультимодальная модель NemotronH Omni, объединяющая гибридную языковую модель Mamba-Transformer с визуальным и звуковым кодировщиками.
- Added: Добавлена модель HyperCLOVAX Vision V2 от NAVER с поддержкой текста, изображений, видео и рассуждений через токены мышления.
- Added: Добавлена поддержка архитектуры GTE — BERT-подобного энкодера с RoPE и гейтированным MLP для многоязычного поиска.
- Breaking: Внесены ломающие изменения: обновлены ROCm-маршрутизация, обработка DETR, слойные типы индексаторов и подсчет токенов видео в vLLM.
v5.17.0major
Выход HYV4 (780B MoE), VibeVoice для синтеза речи, NeoMME, Fun-ASR-Nano и KimiLinear.
- Added: Добавлена поддержка HYV4 — 780B MoE-модели с контекстом 1M токенов и MLA.
- Added: Реализован VibeVoice для синтеза длинной речи с несколькими говорящими.
- Added: Добавлены мультиязычные энкодеры NeoMME и NeoMME-Retriever для работы с текстом и изображениями.
- Added: Включена поддержка Fun-ASR-Nano — компактной модели распознавания речи от Alibaba.
- Added: Добавлена архитектура KimiLinear с гибридным вниманием KDA от Moonshot AI.
v5.16.1minor
Релиз v5.16.1 добавляет поддержку мультимодальной модели GLM-5.3-Flash и исправляет проблемы с тензорным параллелизмом.
- Added: Добавлена поддержка GLM-5.3-Flash — первой нативно мультимодальной модели серии GLM-5 с гибридной архитектурой.
- Fixed: Восстановлена обратная совместимость для API тензорного параллелизма (tensor-parallel).
- Fixed: Исправлены пути к репозиторию и коммитам для ядра ESMFold2.
v5.15.1patch
Исправлены ошибки в DFlash, MTP и обработке изображений с фильтром Lanczos на GPU.
- Fixed: Исправлено несоответствие устройств токенов-кандидатов в DFlash при использовании device_map="auto".
- Fixed: Выровнены распределения логитов для CandidateGenerators, использующих сэмплирование.
- Fixed: Исправлена конфигурация MTP при отсутствии параметра mlp_layer_types.
- Fixed: На CUDA добавлен fallback с фильтра Lanczos на bicubic для корректной обработки изображений.
- Fixed: Исправлена пересылка видео Gemma4 на устройство.
v5.15.0majorbreaking
Добавлена поддержка новых моделей (Meta Muse Glimmer, Granite, A.X-K1/K2, Cosmos3 Edge), улучшена работа внимания и внесены ломающие изменения в API.
- Added: Добавлена поддержка моделей Meta Muse Glimmer, GraniteSWA, GraniteMoeSWA, A.X-K1, A.X-K2 и Cosmos3 Edge.
- Breaking: Кernels для линейного внимания теперь требуют явного включения, а не выбираются автоматически.
- Breaking: API обрезки кэша теперь принимает только отрицательные значения (относительные смещения).
- Breaking: T5 и его семейство теперь поддерживают SDPA по умолчанию; для возврата к старому поведению нужно явно указать attn_implementation='eager'.
- Fixed: Исправлены ошибки в MLA, оптимизирован Flash Attention для vision-моделей и улучшена поддержка MPS.
v5.14.1patch
Исправлены критические ошибки в SDPA, ассистированной генерации и DeepGEMM, связанные с интеграцией модели Inkling.
- Fixed: Исправлена работа SDPA при префиллинге с position_bias без паддинга.
- Fixed: Устранена ошибка ассистированного декодирования для моделей с EncoderDecoderCache и OlmoHybrid.
- Fixed: Исправлена работа deepgemm на нескольких устройствах.
- Added: Обновлена версия ядер для FP8.
v5.13.0minor
Добавлена поддержка моделей Kimi K2.5/2.6/2.7, MiMo-V2-Flash, Nemotron 3.5 ASR и Qwen3 ASR.
- Added: Добавлена архитектура и поддержка мультимодальных агентных моделей Kimi K2.5, K2.6 и K2.7.
- Added: Включена поддержка MoE-модели MiMo-V2-Flash с контекстным окном до 256K токенов.
- Added: Добавлена поддержка моделей распознавания речи Nemotron 3.5 ASR и Nemotron ASR Streaming.
- Added: Добавлена поддержка модели автоматического распознавания речи Qwen3 ASR.
v5.12.1patch
Патч v5.12.1: исправлена работа AutoTokenizer для Mistral и обновлён минимальный порог версии PEFT.
- Fixed: Исправлена корректная работа AutoTokenizer для токенизатора Mistral при наличии пакета mistral-common.
- Fixed: Обновлён нижний порог зависимости для библиотеки PEFT.