Как установить Jan локально: офлайн ИИ-ассистент

Jan — это open-source десктопное приложение, которое позволяет запускать большие языковые модели (LLM) прямо на вашем компьютере. В отличие от облачных сервисов, Jan обеспечивает полную конфиденциальность: ваши данные не покидают устройство. Это идеальный инструмент для практиков, которым нужна приватность, работа офлайн или возможность тонкой настройки под свои задачи без зависимости от сторонних API.

Приложение построено на базе Tauri и llama.cpp, что делает его легким и эффективным. Вы можете использовать локальные модели (Llama, Gemma, Qwen) или подключать облачные провайдеры (OpenAI, Anthropic) через единый интерфейс. Ниже — пошаговая инструкция для быстрого старта.

01Требования

Для комфортной работы с Jan критически важно правильно оценить ресурсы вашего компьютера. Поскольку модели работают локально, основная нагрузка ложится на оперативную память (RAM) и видеокарту (VRAM).

Операционная система

• Windows: Современные версии Windows. Рекомендуется наличие GPU для ускорения.
• macOS: Современные версии macOS. Идеально работает на чипах Apple Silicon благодаря единой архитектуре памяти.
• Linux: Большинство современных дистрибутивов. Поддерживается установка через .deb, AppImage или Flatpak.

Оперативная память (RAM) и Видеопамять (VRAM)

Объем памяти определяет, какую модель вы сможете запустить. Вот ориентировочные требования:

• Малые модели: Минимальные требования к памяти.
• Средние модели: Рекомендуется достаточный объем RAM или VRAM для стабильной работы.
• Большие модели: Требуется значительный объем памяти (RAM или VRAM).

02Установка

Самый простой способ — скачать готовый бинарный файл. Разработчики предоставляют установщики для всех основных платформ.

Шаг 1. Скачивание

Перейдите на официальный сайт jan.ai или в раздел GitHub Releases. Выберите версию для вашей ОС:

• Windows: файл jan.exe.
• macOS: файл jan.dmg (универсальный для Intel и Apple Silicon).
• Linux: пакет jan.deb (для Debian/Ubuntu) или jan.AppImage (для других дистрибутивов).

Шаг 2. Установка

Запустите скачанный файл. На Windows и macOS процесс стандартен: «Далее» → «Установить». На Linux для .deb пакета используйте терминал:

sudo dpkg -i jan.deb
sudo apt-get install -f # Для исправления зависимостей, если нужно

Для AppImage сделайте файл исполняемым:

chmod +x jan.AppImage
./jan.AppImage

Шаг 3. Установка из исходников (для разработчиков)

Если вы хотите внести вклад в проект или вам нужна самая свежая версия из ветки dev, потребуется собрать Jan из исходного кода. Убедитесь, что у вас установлены Node.js ≥ 20.0.0, Yarn ≥ 4.5.3, Make и Rust.

git clone https://github.com/janhq/jan
cd jan
make dev

Команда make dev автоматически установит зависимости, соберет компоненты и запустит приложение в режиме разработки.

03Первый запуск

После установки откройте Jan. Интерфейс минималистичен. Чтобы начать общение, вам нужно загрузить модель.

1. Нажмите на кнопку «+» или перейдите в раздел управления моделями.
2. Выберите модель из каталога. Jan интегрирован с HuggingFace, поэтому вы можете выбирать из популярных моделей: Llama 3, Gemma, Qwen и других.
3. Нажмите Download. Приложение само скачает необходимые веса модели в локальную директорию.
4. После загрузки выберите модель в списке и начните чат.

Если вы хотите использовать облачные модели (например, GPT-4 или Claude), перейдите в настройки интеграции и добавьте API-ключи соответствующих провайдеров. Однако для полного офлайн-опыта достаточно локальных моделей.

Jan также предоставляет локальный API. Если вы хотите интегрировать Jan с другими инструментами, сервер доступен по адресу localhost:1337.

04Частые проблемы

1. Модель не запускается или работает очень медленно. Проверьте, хватает ли оперативной памяти. Если RAM заполнена, система начнет использовать файл подкачки, что резко снизит скорость генерации. Попробуйте выбрать более маленькую модель.
2. Ошибка при запуске на Linux. Убедитесь, что у вас установлены необходимые библиотеки для графики (OpenGL, Vulkan). В некоторых дистрибутивах может потребоваться установка пакетов libgl1 или аналогов. Если используете NVIDIA, проверьте, что драйверы установлены корректно.
3. Не удается скачать модель. Проверьте интернет-соединение. Если скачивание прерывается, попробуйте перезапустить приложение. В случае проблем с доступом к HuggingFace из вашей сети, рассмотрите использование зеркал или прокси.

Источник: Jan (офиц. документация) ↗