hiyouga/LlamaFactory

Что это за инструмент

LLaMA Factory — это универсальный и эффективный инструмент для тонкой настройки (fine-tuning) более чем 100 больших языковых моделей (LLM) и мультимодальных моделей (VLM).

Зачем нужен

Инструмент упрощает процесс адаптации моделей под конкретные задачи, предлагая как командную строку (CLI), так и графический интерфейс (Web UI) без необходимости писать код. Он полезен для оптимизации вычислительных ресурсов за счет поддержки методов LoRA, QLoRA и других эффективных подходов, а также для интеграции с популярными фреймворками, такими как vLLM.

Что можно реализовать

• Тонкая настройка моделей семейства LLaMA, Mistral, Qwen, DeepSeek, Gemma и других через простой CLI или веб-интерфейс.
• Проведение различных типов обучения: от непрерывного предобучения (pre-training) до SFT, PPO, DPO, KTO и ORPO.
• Экономия видеопамяти с помощью квантования (2/3/4/5/6/8-bit QLoRA) и методов вроде AQLM, AWQ, GPTQ, LLM.int8, HQQ, EETQ.
• Использование продвинутых алгоритмов оптимизации, таких как GaLore, BAdam и APOLLO, для ускорения или улучшения процесса обучения.
• Развертывание обученных моделей через API в стиле OpenAI или с использованием vLLM для высокой производительности.

Ключевые возможности

• Поддержка 100+ моделей, включая LLM и VLM (мультимодальные).
• Наличие Web UI (LLaMA Board) на базе Gradio для настройки без кода.
• Широкий спектр методов обучения: SFT, RLHF (PPO), DPO, KTO, ORPO.
• Гибкая поддержка ресурсов: от полного обучения (full-tuning) до заморозки (freeze-tuning) и LoRA/QLoRA.
• Интеграция с облачными платформами (Colab, PAI-DSW) и поддержка различных аппаратных ускорителей (NVIDIA GPU, AMD GPU, ASCEND NPU).

👤 Кому подойдёт: Исследователи, разработчики AI и инженеры по машинному обучению, которым нужен быстрый и эффективный способ адаптации LLM под свои задачи с минимальными затратами на инфраструктуру.