h2oai/h2o-llmstudio

H2O LLM Studio — это фреймворк и no-code GUI для fine-tuning LLM. Документация: https://docs.h2o.ai/h2o-llmstudio/

Обучение⭐ 5 181Pythonпоследний релиз: v1.15.1
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

H2O LLM Studio — это фреймворк с графическим интерфейсом (GUI) для тонкой настройки больших языковых моделей (LLM) без необходимости писать код.

Зачем нужен

Инструмент позволяет эффективно обучать LLM, используя современные техники оптимизации, такие как LoRA и DPO, с минимальным потреблением памяти. Он полезен для визуального отслеживания метрик, сравнения моделей и быстрой интеграции с Hugging Face Hub.

Что можно реализовать

  • Тонкая настройка LLM на пользовательских данных с использованием графического интерфейса
  • Обучение моделей с помощью DPO/IPO/KTO для оптимизации предпочтений
  • Создание и тестирование моделей для классификации и регрессии
  • Экспорт обученных моделей в Hugging Face Hub для совместного использования
  • Визуальное сравнение производительности моделей с помощью метрик и W&B

Ключевые возможности

  • Графический интерфейс (GUI) для настройки без программирования
  • Поддержка LoRA и 8-битного обучения для экономии памяти GPU
  • Интеграция с W&B для отслеживания экспериментов
  • Встроенный чат для мгновенной проверки работы модели
  • Прямой экспорт моделей в Hugging Face Hub

👤 Кому подойдёт: Исследователи, data scientists и разработчики, которые хотят тонко настраивать LLM без глубокого погружения в код, но с контролем над гиперпараметрами и метриками.

Релизы

v1.15.1patch
🕐 4 дн назад · релиз на GitHub ↗

Обновление зависимостей h2o-wave и wandb, исправление отправки пустого токена HF_TOKEN в заголовках.

  • Fixed: Исправлена ошибка отправки пустого заголовка HF_TOKEN в качестве bearer-токена.
  • Added: Обновлена версия библиотеки h2o-wave с 1.8.11 до 1.8.14.
  • Added: Обновлена версия библиотеки wandb с 0.28.2 до 0.30.0.
  • Added: Обновлена зависимость tornado с 6.5.7 до 6.5.8.
  • Fixed: Исправлена некорректная ссылка на PR в документации для KTOPairLoss.
v1.15.0minor
🕐 1 мес назад · релиз на GitHub ↗

Выпуск h2o-llmstudio v1.15.0 с обновлением PyTorch до 2.13, исправлением уязвимостей в Transformers и улучшением работы с путями графиков.

  • Added: Обновлён PyTorch до версии 2.13.
  • Fixed: Обновлены Transformers для устранения уязвимостей безопасности (CVE).
  • Fixed: Исправлено сохранение переписанных путей графиков при переименовании экспериментов.
v1.14.16patch
🕐 1 мес назад · релиз на GitHub ↗

Исправлена ошибка старта приложения из-за опциональных зависимостей, устранены уязвимости и оптимизирован CI/CD.

  • Fixed: Исправлен сбой запуска приложения, вызванный отсутствующей опциональной зависимостью для обучения.
  • Fixed: Устранены критические, высокие и средние уязвимости в зависимостях (Trivy, CVE/FedRAMP).
  • Fixed: Оптимизирован CI: отключена сборка flash-attn, вызывавшая OOM, и настроено отменение дублирующихся сборок.
  • Added: Применено форматирование ruff 0.16 к блокам Python в Markdown-файлах.
  • Удалена неиспользуемая venv из Docker-образа и переведен workflow генерации PDF в ручной режим.
v1.14.15minor
🕐 2 мес назад · релиз на GitHub ↗

Оптимизация Docker-образа (сокращение с 15 до 8.5 ГБ) и обновление до CUDA 13 и PyTorch 2.11.

  • Fixed: Уменьшен размер Docker-образа за счёт удаления избыточных CUDA-пакетов (с 15 до 8.5 ГБ).
  • Added: Выполнен переход на CUDA 13 и PyTorch 2.11.
v1.14.14patch
🕐 2 мес назад · релиз на GitHub ↗

Исправлена совместимость с DeepSpeed 0.17, обновлены зависимости и улучшена CI/CD.

  • Fixed: Исправлена совместимость с DeepSpeed 0.17 (настройки bf16 и вложенный autocast).
  • Added: Удалён файл requirements.txt.
  • Added: Обновлены зависимости: h2o-wave, starlette, tornado, aiohttp, msgpack, wandb.
  • Added: Улучшена конфигурация CI: использование OIDC ролей в рабочих процессах.
  • Added: Обновлён Makersaurus и исправлены ошибки запуска документации.