Open WebUI — это мощный, красивый и полностью автономный веб-интерфейс для работы с локальными языковыми моделями (LLM). Он позволяет превратить ваш компьютер или сервер в полноценную AI-платформу, аналогичную ChatGPT, но с полным контролем над данными. Инструмент поддерживает интеграцию с Ollama, LMStudio, vLLM и другими бэкендами, обеспечивая работу офлайн, что критически важно для безопасности и стабильности. Этот гайд предназначен для практиков, желающих быстро развернуть стабильную среду для генерации текста, анализа документов (RAG) и работы с агентами без зависимости от внешних облачных сервисов.
01Требования
Для комфортной работы с Open WebUI вам потребуется следующее оборудование и программное обеспечение:
- Операционная система: Linux (Ubuntu/Debian/CentOS), macOS или Windows (через WSL2 или Docker Desktop). Linux предпочтителен для стабильности.
- Оперативная память (RAM): Требуется достаточный объем для загрузки выбранной модели. Если вы используете CPU-инференс, объем RAM должен превышать размер модели.
- Видеокарта (VRAM): Желательна NVIDIA GPU с поддержкой CUDA для ускорения вычислений.
- Для легких моделей требуется минимальный объем VRAM.
- Для средних моделей требуется средний объем VRAM.
- Для больших моделей или одновременной работы с несколькими моделями требуется значительный объем VRAM.
- Дисковое пространство: Необходимо свободное место для хранения моделей и базы данных.
- Docker и Docker Compose: Самый простой и надежный способ установки. Убедитесь, что Docker установлен и запущен.
nvidia-container-toolkit. Без этого Open WebUI будет работать только на CPU, что заметно медленнее. Для AMD/Apple Silicon поддержка есть, но требует дополнительных настроек в Docker.02Установка
Мы рекомендуем использовать Docker, так как это изолирует приложение от основной системы и упрощает обновления. Перед началом убедитесь, что у вас установлен Ollama (или другой бэкенд), так как Open WebUI — это только интерфейс, а «мозги» находятся в другом процессе.
Шаг 1. Создание директории и файла конфигурации
Создайте папку для данных Open WebUI, чтобы они сохранялись между перезапусками контейнера:
mkdir -p ~/open-webuiШаг 2. Запуск контейнера
Выполните следующую команду для запуска Open WebUI. Эта команда монтирует папку open-webui внутрь контейнера, пробрасывает порт и устанавливает переменные окружения для подключения к локальному Ollama (предполагается, что Ollama запущен на хост-машине и доступен по адресу http://host.docker.internal:11434).
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainЕсли вы хотите использовать GPU (NVIDIA), добавьте флаг --gpus all:
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainOLLAMA_HOST=0.0.0.0.Шаг 3. Проверка установки
Откройте браузер и перейдите по адресу http://localhost:3000. Вы должны увидеть страницу входа. При первом запуске создайте административный аккаунт. Пароль и логин запомните, они понадобятся для доступа к панели администратора.
03Первый запуск
После входа в систему вам нужно подключить модель. Open WebUI автоматически обнаружит запущенный Ollama, если он доступен по сети.
- Перейдите в Settings (Настройки) → Connections (Подключения).
- Убедитесь, что Base URL для Ollama установлен в
http://host.docker.internal:11434(для Docker на macOS/Windows) илиhttp://localhost:11434(для Linux с--network=host). - Перейдите в Settings → Models.
- Нажмите Fetch New Models. Если Ollama запущен, список доступных моделей появится автоматически.
Если моделей нет, их нужно скачать через терминал Ollama. Откройте терминал на хост-машине и выполните:
ollama pull llama3.2После загрузки вернитесь в Open WebUI, обновите список моделей и выберите llama3.2 в интерфейсе чата. Теперь вы можете начать диалог. Для проверки работы RAG (поиска по документам) загрузите любой PDF-файл в чат с помощью кнопки загрузки или команды #.
04Частые проблемы
- Ошибка подключения к Ollama (Connection Refused): Самая частая проблема. Убедитесь, что Ollama запущен. В Docker на macOS/Windows используйте
host.docker.internal. В Linux, если Open WebUI запущен в Docker, а Ollama на хосте, убедитесь, что Ollama принимает соединения извне (не только localhost). - Медленная генерация: Если вы не видите использования GPU, проверьте логи контейнера:
docker logs open-webui. Убедитесь, что передан флаг--gpus allи установлены драйверы NVIDIA Container
Источник: Open WebUI (офиц. документация) ↗