janhq/jan

Jan — это open source альтернатива ChatGPT, работающая на 100% офлайн на вашем компьютере.

Инференс⭐ 45 504TypeScriptпоследний релиз: v0.8.8

Что это за инструмент

Jan — это open-source десктопное приложение, позволяющее запускать локальные LLM (Llama, Gemma, Qwen) и подключать облачные модели (GPT, Claude) с полным контролем данных.

Зачем нужен

Инструмент решает задачу безопасного использования ИИ без отправки данных на сторонние серверы, выступая альтернативой ChatGPT. Он полезен для тех, кто хочет интегрировать различные LLM в единый интерфейс и использовать их локально или через API.

Что можно реализовать

Запуск и тестирование открытых LLM (Llama, Gemma, Qwen) прямо на компьютере из HuggingFace
Создание специализированных AI-ассистентов под конкретные задачи
Использование Jan как локального сервера с OpenAI-Compatible API (localhost:1337) для других приложений
Интеграция agentic-возможностей через Model Context Protocol (MCP)

Ключевые возможности

Полная локальность: модели работают офлайн, обеспечивая приватность
Гибридная архитектура: поддержка как локальных моделей, так и облачных провайдеров (OpenAI, Anthropic, Mistral, Groq)
Кроссплатформенность: нативные сборки для Windows, macOS, Linux (deb, AppImage)
Открытый код под лицензией Apache 2.0

👤 Кому подойдёт: разработчики, исследователи и пользователи, ценящие приватность данных и желающие контролировать запуск LLM на своем оборудовании

Релизы

v0.8.8majorbreaking

🕐 9 дн назад · релиз на GitHub ↗

Релиз v0.8.8: критические исправления безопасности, обновление движка llama.cpp до 0.7.0 и контроль доверенных хостов для локального API.

Breaking: Локальный API теперь проверяет источник запросов: веб-страницы могут обращаться только к доверенным хостам (Trusted Hosts), что ломает старые сценарии без явной настройки.
Added: Движок llama.cpp обновлён до версии 0.7.0 с поддержкой кэширования MoE, вероятностной черновой выборки и настройки размера батча для спекулятивного декодирования.
Breaking: Ссылки в ответах моделей и инструментах теперь всегда открываются в системном браузере, а не внутри окна Jan, что повышает безопасность.
Fixed: Исправлена загрузка локальных моделей на Windows с кириллическими именами пользователей и ошибка при использовании HTTP-прокси для встроенных эмбеддингов.
Fixed: На macOS процесс MLX сервера теперь корректно завершается при закрытии Jan, а вложения отправляются один раз за запрос, экономя кэш промптов.

v0.8.7minorbreaking

🕐 17 дн назад · релиз на GitHub ↗

Jan v0.8.7: переключатель Shell, лимит изображений, подагенты и исправления работы с прокси и файлами.

Added: Появился переключатель Shell в чате для отключения инструмента командной строки.
Added: Добавлены встроенные подагенты (explore, research, review, debug) с собственными моделями.
Added: В настройках добавлено отдельное ограничение на размер прикрепляемых изображений.
Fixed: Исправлена работа с прокси/VPN, локальные модели теперь подключаются напрямую.
Fixed: Кнопка Stop корректно прерывает выполнение любых инструментов, включая ожидающие подтверждения.
Breaking: При первом запуске удалён встроенный MCP-сервер Exa из списка по умолчанию.

v0.8.6patch

🕐 27 дн назад · релиз на GitHub ↗

Горячее исправление v0.8.6: устранены критические сбои на Linux, старых NVIDIA GPU и проблемы с производительностью Qwen3.

Fixed: Исправлен крах AppImage на Linux при загрузке моделей: теперь используется системный загрузчик Vulkan.
Fixed: Добавлена нативная поддержка Turing GPU (GTX 16xx, RTX 20xx), устраняющая ошибку PTX без обновления драйверов.
Fixed: Восстановлена производительность Qwen3 с MTP: оптимизировано выделение памяти для Parallel Sequences.
Fixed: MCP-инструменты теперь корректно передают изображения в модель, а не как base64-текст.
Added: В настройках добавлена ссылка на документацию по использованию собственной версии llama.cpp.

v0.8.5majorbreaking

🕐 28 дн назад · релиз на GitHub ↗

v0.8.5: llama.cpp встроен, Intel Macs больше не поддерживаются, CLI вынесен отдельно, добавлен мастер установки.

Breaking: llama.cpp 0.5.0 теперь встроен в приложение; бэкенды CUDA 11/12 удалены, для старых GPU (Pascal) используется Vulkan.
Breaking: Локальные модели больше не работают на Intel Mac; для них рекомендуется остаться на версии v0.8.4.
Breaking: Исполняемый файл переименован в Jan-Desktop; CLI-агент jan больше не входит в состав десктопного приложения.
Added: Первый запуск теперь проходит через пошаговый мастер настройки (engine setup, выбор модели).
Fixed: Локальный API сервер блокирует запросы с непроверенными Host-заголовками при привязке к 0.0.0.0.
Deprecated: Инструмент агента bash переименован в shell; старые определения с bash вызывают ошибки.

v0.8.4majorbreaking

🕐 3 мес назад · релиз на GitHub ↗

Перенос настроек в бэкенд, нативный веб-поиск, поддержка Responses API и исправления RAG и MCP.

Breaking: Настройки и учетные данные перенесены из localStorage в хранилище бэкенда с сохранением в системном хранилище ключей.
Added: Добавлен нативный веб-поиск и получение данных через плагин Tauri.
Added: Реализован шлюз совместимости с OpenAI, поддержка Responses API и унифицированная работа с рассуждениями.
Fixed: Исправлена работа RAG: восстановлены эмбеддинги, остановлены перезагрузки моделей чата и улучшен парсинг PDF.
Fixed: Устранено зависание всплывающих окон одобрения MCP-инструментов и исправлена безопасность (обновление handlebars).