google-deepmind/gemma

Gemma open-weight LLM library, from Google DeepMind

LLM⭐ 5 740Pythonпоследний релиз: v4.0.1
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

Gemma — это библиотека на JAX от Google DeepMind для работы с открытыми моделями Large Language Model (LLM), такими как Gemma 2, 3 и 4.

Зачем нужен

Инструмент позволяет загружать веса моделей, выполнять генерацию текста и изображений, а также проводить их тонкую настройку (fine-tuning) с использованием LoRA. Он полезен для разработчиков, которым нужна надежная программная оболочка для интеграции и кастомизации моделей Gemma в свои проекты.

Что можно реализовать

  • Создание многооборотных чат-ботов с поддержкой нескольких моделей (Gemma 2, 3, 4)
  • Мультимодальный анализ: сравнение и описание изображений с помощью текстовых запросов
  • Тонкая настройка (fine-tuning) моделей под специфические задачи с использованием LoRA
  • Локальное развертывание LLM на CPU, GPU или TPU без облачных API

Ключевые возможности

  • Единый API ChatSampler для работы с разными версиями моделей (2, 3, 3n, 4)
  • Встроенная поддержка мультимодальности (текст + изображения)
  • Готовые примеры и Colab-ноутбуки для обучения, сэмплирования и fine-tuning
  • Оптимизация для работы с JAX на GPU и TPU
  • Открытые веса (open-weights) от Google DeepMind

👤 Кому подойдёт: разработчики, исследователи в области AI, инженеры машинного обучения

Релизы

v4.0.1patch
🕐 4 мес назад · релиз на GitHub ↗

Исправлено требование к версии зависимости dialog, теперь она должна быть не ниже 1.1.0.

  • Fixed: Обновлено требование к версии зависимости dialog до >= 1.1.0.