Ollama — это инструмент с открытым исходным кодом, который позволяет запускать большие языковые модели (LLM) локально на вашем компьютере. Это идеальный выбор для практиков, которые хотят сохранить конфиденциальность данных, работать офлайн или просто не зависеть от платных API. Ollama берет на себя сложность настройки окружения, загрузки весов моделей и управления GPU, предлагая простой интерфейс командной строки и REST API. В этом гайде мы разберем, как установить Ollama и запустить первую модель за пару минут.
01Требования
Перед установкой убедитесь, что ваше железо соответствует минимальным требованиям. Ollama оптимизирована для работы с графическими процессорами (GPU), но поддерживает и вычисления на CPU.
- Операционная система: Windows 10/11, macOS (12.3+), Linux (Ubuntu 20.04+, Debian, Arch и др.).
- Оперативная память (RAM): Требуется достаточный объем для загрузки выбранной модели. Легковесные модели потребляют меньше ресурсов, тогда как большие модели требуют значительно больше памяти.
- Видеопамять (VRAM): Наличие видеокарты с достаточным объемом памяти заметно ускоряет работу. NVIDIA (с поддержкой CUDA) или AMD (ROCm) работают быстрее всего. На Mac используется унифицированная память (Apple Silicon), что дает отличную производительность.
- Дисковое пространство: Необходимо место для установки программы и кэша моделей. Размер занимаемого места зависит от выбранных моделей.
02Установка
Процесс установки максимально упрощен. Выберите вашу операционную систему и выполните одну команду в терминале или PowerShell.
macOS
Для macOS доступна установка через терминал или скачивание .dmg файла. Командный способ:
curl -fsSL https://ollama.com/install.sh | shПосле завершения скрипта Ollama запустится в фоне как сервис.
Windows
Запустите PowerShell от имени администратора и выполните:
irm https://ollama.com/install.ps1 | iexИли скачайте установщик здесь. После установки в трее появится значок Ollama, подтверждающий работу сервиса.
Linux
Для большинства дистрибутивов (Ubuntu, Debian, Fedora, Arch) используется тот же скрипт, что и для macOS:
curl -fsSL https://ollama.com/install.sh | shДля ручной установки или специфических дистрибутивов обратитесь к официальной документации по Linux.
03Первый запуск
После установки Ollama готова к работе. Вам не нужно вручную скачивать модели — команда run сама загрузит нужную модель, если она еще не кэширована.
Запустите интерфейс командной строки:
ollamaВы увидите приглашение выбрать модель или запустить интеграцию. Для простого чата с моделью используйте команду run с именем модели. Например, для запуска современной модели Gemma 4:
ollama run gemma4Если вы хотите использовать более популярную и легковесную модель для начала, попробуйте Llama 3.1 или Mistral:
ollama run llama3.1После загрузки (первый раз может занять время) вы сможете общаться с моделью прямо в терминале. Чтобы выйти из режима чата, нажмите Ctrl+D или введите /bye.
Использование через API (для разработчиков)
Ollama предоставляет REST API по адресу http://localhost:11434. Вы можете взаимодействовать с моделью через curl:
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Почему небо голубое?"
}],
"stream": false
}'Для Python-разработчиков доступна библиотека ollama:
pip install ollamaimport ollama
response = ollama.chat(model='gemma4', messages=[
{
'role': 'user',
'content': 'Почему небо голубое?',
},
])
print(response['message']['content'])04Частые проблемы
1. Модель не запускается или ошибка "Out of Memory"
Если у вас мало VRAM или RAM, попробуйте выбрать более маленькую модель. Например, вместо тяжелых версий используйте llama3.1:8b или qwen2.5:7b. Также проверьте, не занято ли видеопамять другими приложениями (браузер с множеством вкладок, игры).
2. Медленная работа на Windows
Убедитесь, что у вас установлены драйверы для видеокарты. Если вы используете NVIDIA, убедитесь, что CUDA Toolkit установлен корректно (хотя Ollama часто включает свои зависимости). На AMD картах проверьте поддержку ROCm.
3. Ошибка сети при загрузке модели
Если вы находитесь в России, серверы Ollama могут быть недоступны или работать медленно. Решение: используйте прокси-сервер или найдите зеркало репозитория моделей. После первой загрузки модель сохраняется в локальном кэше (~/.ollama на Linux/macOS или %USERPROFILE%\.ollama на Windows), поэ
Источник: Ollama (офиц. документация) ↗