huggingface/peft

Что это за инструмент

PEFT — это библиотека Hugging Face для эффективной дообучения (fine-tuning) больших языковых моделей путем изменения лишь небольшого числа параметров.

Зачем нужен

Инструмент решает проблему высоких вычислительных и хранилищных затрат при адаптации крупных LLM к конкретным задачам. Он позволяет достигать качества, сравнимого с полным дообучением, но используя значительно меньше ресурсов за счет методов вроде LoRA, Soft prompts и IA3.

Что можно реализовать

• Адаптация больших моделей (например, Qwen2.5, Bloomz) под специфические домены на потребительском оборудовании
• Создание компактных адаптеров (размером в мегабайты) вместо хранения полных копий моделей
• Обучение моделей, которые не помещаются в память GPU, с использованием CPU Offloading
• Интеграция дообучения в пайплайны с Diffusers для управления разными адаптерами

Ключевые возможности

• Снижение потребления GPU-памяти в разы (например, тренировка 3B модели требует всего 14.4GB VRAM)
• Поддержка SOTA методов: LoRA, Soft prompts, IA3 и других
• Глубокая интеграция с экосистемой Hugging Face (Transformers, Accelerate, Diffusers)
• Возможность дообучения моделей, которые иначе вызвали бы ошибку Out Of Memory (OOM)
• Минимальный оверхед: дообучается менее 1% параметров модели

👤 Кому подойдёт: ML-инженеры, разработчики LLM-приложений и исследователи, работающие с большими моделями и ограниченными вычислительными ресурсами