AIKraft Agents
ВойтиТарифы и покупка

h2oai/h2o-llmstudio

H2O LLM Studio — это фреймворк и no-code GUI для fine-tuning LLM. Документация: https://docs.h2o.ai/h2o-llmstudio/

Обучение⭐ 5 192Pythonпоследний релиз: v1.15.4
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

H2O LLM Studio — это фреймворк с графическим интерфейсом (GUI) для тонкой настройки больших языковых моделей (LLM) без необходимости писать код.

Зачем нужен

Инструмент позволяет эффективно обучать LLM, используя современные техники оптимизации, такие как LoRA и DPO, с минимальным потреблением памяти. Он полезен для визуального отслеживания метрик, сравнения моделей и быстрой интеграции с Hugging Face Hub.

Что можно реализовать

  • Тонкая настройка LLM на пользовательских данных с использованием графического интерфейса
  • Обучение моделей с помощью DPO/IPO/KTO для оптимизации предпочтений
  • Создание и тестирование моделей для классификации и регрессии
  • Экспорт обученных моделей в Hugging Face Hub для совместного использования
  • Визуальное сравнение производительности моделей с помощью метрик и W&B

Ключевые возможности

  • Графический интерфейс (GUI) для настройки без программирования
  • Поддержка LoRA и 8-битного обучения для экономии памяти GPU
  • Интеграция с W&B для отслеживания экспериментов
  • Встроенный чат для мгновенной проверки работы модели
  • Прямой экспорт моделей в Hugging Face Hub

👤 Кому подойдёт: Исследователи, data scientists и разработчики, которые хотят тонко настраивать LLM без глубокого погружения в код, но с контролем над гиперпараметрами и метриками.

Релизы

v1.15.4patch
🕐 2 дн назад · релиз на GitHub ↗

Релиз v1.15.4: обновление зависимостей для устранения уязвимостей, переход на NumPy 2 и удаление логирования W&B.

  • Fixed: Обновлены зависимости (filelock, msgpack, mako, tornado, setuptools, uv, h2o-wave, pyarrow) для устранения уязвимостей CVE.
  • Fixed: Выполнен переход на NumPy 2 и обновлен pyarrow до версии 26.0.1.
  • Fixed: Исправлена ошибка отправки моделей в Hugging Face при использовании transformers 5.
  • Deprecated: Удалено логирование в Weights & Biases и соответствующая настройка Logger.
  • Fixed: Устранена нестабильность обработки слайдеров в UI-тестах.
v1.15.3patch
🕐 13 дн назад · релиз на GitHub ↗

Выпуск v1.15.3: обновление зависимостей для устранения уязвимостей CVE.

  • Fixed: Обновлены зависимости handlebars, pillow и uv для устранения уязвимостей.
  • Fixed: Обновлены h2o-wave и wandb для устранения уязвимостей Go CVE.
v1.15.2patch
🕐 1 мес назад · релиз на GitHub ↗

Выпуск v1.15.2 включает обновление зависимостей uv в одном из каталогов проекта.

  • Обновлены зависимости группы uv в одном из каталогов (PR #1117).
v1.15.1patch
🕐 1 мес назад · релиз на GitHub ↗

Обновление зависимостей h2o-wave и wandb, исправление отправки пустого токена HF_TOKEN в заголовках.

  • Fixed: Исправлена ошибка отправки пустого заголовка HF_TOKEN в качестве bearer-токена.
  • Added: Обновлена версия библиотеки h2o-wave с 1.8.11 до 1.8.14.
  • Added: Обновлена версия библиотеки wandb с 0.28.2 до 0.30.0.
  • Added: Обновлена зависимость tornado с 6.5.7 до 6.5.8.
  • Fixed: Исправлена некорректная ссылка на PR в документации для KTOPairLoss.
v1.15.0minor
🕐 2 мес назад · релиз на GitHub ↗

Выпуск h2o-llmstudio v1.15.0 с обновлением PyTorch до 2.13, исправлением уязвимостей в Transformers и улучшением работы с путями графиков.

  • Added: Обновлён PyTorch до версии 2.13.
  • Fixed: Обновлены Transformers для устранения уязвимостей безопасности (CVE).
  • Fixed: Исправлено сохранение переписанных путей графиков при переименовании экспериментов.
v1.14.16patch
🕐 2 мес назад · релиз на GitHub ↗

Исправлена ошибка старта приложения из-за опциональных зависимостей, устранены уязвимости и оптимизирован CI/CD.

  • Fixed: Исправлен сбой запуска приложения, вызванный отсутствующей опциональной зависимостью для обучения.
  • Fixed: Устранены критические, высокие и средние уязвимости в зависимостях (Trivy, CVE/FedRAMP).
  • Fixed: Оптимизирован CI: отключена сборка flash-attn, вызывавшая OOM, и настроено отменение дублирующихся сборок.
  • Added: Применено форматирование ruff 0.16 к блокам Python в Markdown-файлах.
  • Удалена неиспользуемая venv из Docker-образа и переведен workflow генерации PDF в ручной режим.
v1.14.15minor
🕐 3 мес назад · релиз на GitHub ↗

Оптимизация Docker-образа (сокращение с 15 до 8.5 ГБ) и обновление до CUDA 13 и PyTorch 2.11.

  • Fixed: Уменьшен размер Docker-образа за счёт удаления избыточных CUDA-пакетов (с 15 до 8.5 ГБ).
  • Added: Выполнен переход на CUDA 13 и PyTorch 2.11.
v1.14.14patch
🕐 4 мес назад · релиз на GitHub ↗

Исправлена совместимость с DeepSpeed 0.17, обновлены зависимости и улучшена CI/CD.

  • Fixed: Исправлена совместимость с DeepSpeed 0.17 (настройки bf16 и вложенный autocast).
  • Added: Удалён файл requirements.txt.
  • Added: Обновлены зависимости: h2o-wave, starlette, tornado, aiohttp, msgpack, wandb.
  • Added: Улучшена конфигурация CI: использование OIDC ролей в рабочих процессах.
  • Added: Обновлён Makersaurus и исправлены ошибки запуска документации.