Jan — это open-source десктопное приложение, которое позволяет запускать большие языковые модели (LLM) прямо на вашем компьютере. В отличие от облачных сервисов, Jan обеспечивает полный контроль над данными и их приватность, так как все вычисления происходят локально. Это идеальный инструмент для практиков, которые хотят использовать мощные модели (Llama, Gemma, Qwen и др.) без отправки запросов на сторонние серверы, а также для тех, кто работает в условиях ограниченного доступа к интернету или строгих политик безопасности.
01Требования
Поскольку Jan работает с нейросетями локально, ваши аппаратные ресурсы играют ключевую роль. Приложение построено на Tauri, что делает его легким, но требовательным к оперативной памяти и видеопамяти.
Операционная система
- macOS: Поддерживается нативная работа на современных версиях системы (включая Apple Silicon M1/M2/M3 и Intel).
- Windows: Поддерживаются современные версии Windows. Рекомендуется наличие GPU (NVIDIA, AMD или Intel Arc) для ускорения инференса.
- Linux: Поддерживаются основные современные дистрибутивы. Доступны пакеты .deb и AppImage. GPU-ускорение доступно.
Оперативная память (RAM) и Видеопамять (VRAM)
Количество доступной памяти определяет размер модели, которую вы сможете запустить. Jan оптимизирован для работы с GGUF-моделями, которые эффективно используют как CPU, так и GPU.
Дополнительные зависимости
Для обычного пользователя установка дополнительных библиотек не требуется. Однако, если вы решите собрать Jan из исходного кода, вам понадобятся:
- Node.js (версии ≥ 20.0.0)
- Yarn (версии ≥ 4.5.3)
- Rust (для сборки Tauri)
- Make (версии ≥ 3.81)
02Установка
Самый простой способ установить Jan — скачать готовый бинарный файл с официального сайта. Процесс интуитивно понятен и не требует специальных знаний.
Шаг 1: Скачивание установщика
Перейдите на страницу jan.ai или в раздел GitHub Releases. Выберите версию для вашей ОС:
- Windows: файл
jan.exe - macOS: файл
jan.dmg(универсальный) - Linux: файл
jan.debилиjan.AppImage
Шаг 2: Установка
Для Windows: Запустите скачанный jan.exe и следуйте инструкциям установщика. Приложение добавится в меню «Пуск».
Для macOS: Откройте jan.dmg и перетащите иконку Jan в папку «Applications» (Программы). При первом запуске система может запросить подтверждение запуска из интернета — разрешите это в настройках безопасности.
Для Linux: Если вы используете Debian/Ubuntu, установите пакет через терминал:
sudo dpkg -i jan.deb
sudo apt-get install -f # для исправления зависимостей, если нужноДля других дистрибуций используйте AppImage, сделав файл исполняемым:
chmod +x jan.AppImage
./jan.AppImageШаг 3: Сборка из исходного кода (опционально)
Для разработчиков, желающих внести вклад или получить последнюю версию «из ветки dev», доступна сборка через Make:
git clone https://github.com/janhq/jan
cd jan
make devЭта команда автоматически установит зависимости, соберет компоненты и запустит приложение в режиме разработки.
03Первый запуск
После установки откройте Jan. Интерфейс интуитивно понятен: слева находится список чатов, а в центре — поле ввода.
Загрузка модели
При первом запуске Jan предложит выбрать модель. Вы можете выбрать из предустановленного списка популярных моделей (Llama 3, Gemma, Qwen и др.) или загрузить свою GGUF-модель с HuggingFace.
- Нажмите на кнопку выбора модели (обычно в верхнем углу или в настройках).
- Выберите модель, подходящую под ваше железо. Например, для начала попробуйте
Llama-3-8B-InstructилиPhi-3-mini. - Нажмите Download. Модель будет сохранена в локальную директорию Jan.
Запуск чата
После загрузки модели просто введите запрос в поле ввода и нажмите Enter. Jan начнет генерацию ответа, используя локальные ресурсы вашего компьютера. Вы можете наблюдать за прогрессом генерации (токенов в секунду) в интерфейсе.
Также Jan предоставляет OpenAI-Compatible API на порту localhost:1337. Это позволяет подключать Jan к другим приложениям, таким как Obsidian, VS Code или сторонние клиенты, используя стандартные библиотеки OpenAI.
04Частые проблемы
1. Приложение не запускается или вылетает
Часто причина в отсутствии необходимых библиотек для GPU или конфликте версий. На Windows убедитесь, что у вас установлены последние драйверы NVIDIA/AMD. На macOS проверьте, что вы используете актуальную версию системы. Если проблема сохраняется, попробуйте очистить кэш приложения или переустановить его.
2. Медленная генерация текста
Если вы запускаете модель на пр
Источник: Jan (офиц. документация) ↗