databrickslabs/dolly

Что это за инструмент

Dolly — это большая языковая модель (LLM) от Databricks, обученная на платформе Databricks ML, которая умеет следовать инструкциям и доступна для коммерческого использования.

Зачем нужен

Инструмент предназначен для задач генерации текста, классификации, извлечения информации и суммаризации на основе естественных языковых инструкций. Он полезен тем, кто ищет открытую модель с разрешительной лицензией для интеграции в свои ML-пайплайны или прототипирования, не требуя при этом самых современных архитектур.

Что можно реализовать

• Генерация идей и мозговой штурм (brainstorming)
• Классификация текстовых данных
• Ответы на вопросы по закрытым и открытым темам (closed/open QA)
• Извлечение структурированной информации из текста
• Суммаризация документов

Ключевые возможности

• Лицензия, разрешающая коммерческое использование
• Обучена на корпусе из ~15k записей (databricks-dolly-15k), сгенерированных сотрудниками Databricks
• Базовая архитектура на базе Pythia-12b с улучшенным следованием инструкциям
• Поддержка инференса на разных GPU (A100, A10, V100) с возможностью квантования (8-bit)
• Интеграция с библиотекой transformers и платформой Databricks

👤 Кому подойдёт: разработчики, исследователи, ML-инженеры, работающие с LLM и нуждающиеся в открытой модели с коммерческой лицензией