Open WebUI — это мощный, красивый и полностью автономный веб-интерфейс для работы с локальными языковыми моделями. Он позволяет превратить ваш компьютер или сервер в полноценную AI-платформу, поддерживающую как локальные модели через Ollama, так и облачные API. Для практиков в РФ это идеальное решение: работа офлайн, отсутствие блокировок, полная приватность данных и возможность использовать доступное «железо» без зависимости от зарубежных сервисов.
01Требования
Для стабильной работы Open WebUI вам потребуется базовое программное обеспечение и аппаратные ресурсы, зависящие от выбранной модели.
Программные требования
- Операционная система: Linux, macOS или Windows (через WSL2 или Docker Desktop).
- Docker и Docker Compose: Это рекомендуемый и самый простой способ установки. Убедитесь, что Docker установлен и запущен.
- Ollama (опционально, но рекомендуется): Для работы с локальными моделями (Llama 3, Mistral, Qwen) необходимо установить Ollama на ту же машину, где будет запущен Open WebUI.
Аппаратные требования (VRAM/RAM)
Производительность напрямую зависит от видеопамяти (VRAM) и оперативной памяти (RAM). Вот ориентировочные цифры для комфортной работы:
- Минимальные требования: Поддерживаются квантованные модели среднего размера. Работает медленно, но работает.
- Средние требования: Оптимально для моделей среднего размера в полном разрешении или более крупных в квантовании. Хороший баланс скорости и качества.
- Высокие требования: Позволяет запускать более крупные модели в полном разрешении или очень крупные в сильном квантовании. Идеально для современных видеокарт NVIDIA.
- Только CPU (RAM): Если нет видеокарты NVIDIA, модели будут работать в оперативной памяти. Требуется значительный объем RAM. Скорость генерации будет заметно ниже, но для чтения и анализа документов это приемлемо.
02Установка
Мы рассмотрим самый надежный способ установки — через Docker. Он изолирует приложение от вашей системы и упрощает обновления.
Шаг 1. Подготовка Ollama
Сначала установите Ollama, если он еще не установлен. Он будет «движком», который загружает и исполняет модели.
# Для Linux (автоматическая установка)
curl -fsSL https://ollama.com/install.sh | sh
# Для macOS/Windows
# Скачайте установщик с https://ollama.comПосле установки проверьте, что Ollama работает:
ollama --versionШаг 2. Создание директории и файла конфигурации
Создайте папку для данных Open WebUI, чтобы сохранить историю и настройки:
mkdir -p open-webuiШаг 3. Запуск контейнера Open WebUI
Запустите контейнер, подключив его к сети Ollama. Если Ollama и Open WebUI на одной машине, используйте host.docker.internal для Linux или просто localhost для macOS/Windows (в зависимости от версии Docker).
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:mainЭта команда:
-p 3000:8080— открывает интерфейс на порту 3000 вашего компьютера.-v open-webui:/app/backend/data— сохраняет данные в именованный том Docker.--add-host=host.docker.internal:host-gateway— позволяет контейнеру видеть Ollama, запущенный на хост-машине.
ghcr.io обычно доступен стабильно. Если возникают проблемы, попробуйте запустить команду с указанием прокси-сервера в переменных окружения Docker.03Первый запуск
После успешного запуска откройте браузер и перейдите по адресу:
http://localhost:3000Вы увидите страницу регистрации. Создайте первого администратора. После входа вы попадете в интерфейс чата.
Подключение модели
По умолчанию Open WebUI настроен на работу с Ollama. Чтобы начать работу:
- В интерфейсе Open WebUI перейдите в Settings (Настройки) → Connections (Подключения).
- Убедитесь, что базовый URL Ollama установлен на
http://host.docker.internal:11434(для Linux) илиhttp://localhost:11434(для Mac/Windows). - Перейдите в Models (Модели) и нажмите Fetch New Models.
- Выберите модель из списка. Для начала рекомендуем
llama3илиmistral.
Если вы хотите загрузить модель вручную через терминал Ollama, используйте команду:
ollama pull llama3После загрузки модель появится в списке, и вы сможете начать диалог. Интерфейс поддерживает Markdown, LaTeX, загрузку файлов (RAG) и работу с несколькими моделями одновременно.
04Частые проблемы
- Ошибка подключения к Ollama (Connection Refused): Чаще всего возникает на Linux, когда Docker не может достучаться до хоста. Решение: используйте флаг
--add-host=host.dockeИсточник: Open WebUI (офиц. документация) ↗