Mintplex-Labs/anything-llm

Stop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience

RAG⭐ 66 276JavaScriptпоследний релиз: v1.16.1

Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

AnythingLLM — это локальное приложение с открытым исходным кодом, позволяющее развернуть приватный аналог ChatGPT с поддержкой RAG и AI-агентов.

Зачем нужен

Инструмент решает задачу безопасной работы с корпоративными данными и LLM, позволяя загружать документы и использовать их для ответов без отправки данных в облако. Он полезен для создания автономных AI-систем, где важна конфиденциальность интеллектуальной собственности и контроль над конфигурацией моделей.

Что можно реализовать

Чат с собственными документами (PDF, TXT, DOCX) через встроенные векторные базы данных
Автоматизация сложных рабочих процессов с помощью no-code AI Agents и MCP-совместимости
Настройка динамического маршрутизации запросов между разными LLM-провайдерами на основе правил
Создание кастомных AI-агентов с неограниченным количеством инструментов для специфичных задач

Ключевые возможности

Локальный запуск по умолчанию с поддержкой как закрытых, так и open-source LLM
Встроенный конструктор AI-агентов без кода и поддержка Intelligent Skill Selection для оптимизации токенов
Многопользовательский режим и управление доступом (в Docker-версии)
Поддержка multimodal-ввода и встроенных запланированных задач (Scheduled Tasks)
Возможность встраивания чат-виджета на сайт (в Docker-версии)

👤 Кому подойдёт: разработчики, ИТ-специалисты, бизнес-пользователи, требующие приватности данных, и исследователи, работающие с локальными LLM

Релизы

v1.16.1minor

🕐 24 дн назад · релиз на GitHub ↗

Релиз v1.16.1: новый UI для цепочек мыслей, предупреждение при уходе со страницы, поддержка Foundry Local и GenieX, улучшения AWS Bedrock и LocalAI.

Added: Полностью переработан интерфейс для агентов: цепочки мыслей и вызовы инструментов теперь сворачиваются в один компактный элемент, экономя место на экране.
Added: Добавлена поддержка движка Foundry Local (Windows) и GenieX для Snapdragon NPU, а также улучшена работа с AWS Bedrock и LocalAI.
Fixed: Исправлено неожиданное прерывание генерации при навигации: теперь система предупреждает пользователя перед отменой ответа, позволяя завершить процесс в фоне.
Added: В LocalAI добавлена автоматическая детекция контекстного окна и поддержка генерации изображений.
Deprecated: Предыдущий движок Snapdragon NPU заменен на GenieX; старые модели удаляются при обновлении, требуется повторная загрузка оптимизированных моделей.

v1.16.0major

🕐 1 мес назад · релиз на GitHub ↗

В AnythingLLM v1.16.0 добавлена генерация изображений, переключение инструментов в сессии и улучшен файловый менеджер.

Added: Появилась возможность генерации изображений через команду /img с поддержкой прикрепления файлов для редактирования.
Added: В агентных чатах теперь можно включать и выключать инструменты прямо во время сессии без перезагрузки.
Added: Улучшен файловый менеджер: добавлена поддержка перетаскивания папок, сохранение иерархии и автоматическое добавление https к URL.
Added: Добавлен провайдер LLM oMLX, поддержка Whisper API для OpenAI и инструмент для создания запланированных задач.
Fixed: Исправлено полное прерывание генерации, чтобы избежать «фантомных» процессов, а также устранены ошибки в работе MCP-серверов и SQL-коннектора.

v1.15.0major

🕐 2 мес назад · релиз на GitHub ↗

AnythingLLM 1.15.0: запуск AI-агента в ОС через Magic Echo, Beacon и Tab, а также исправления и новые настройки.

Added: Добавлены Magic Features: голосовой ввод Echo, контекстные действия над выделенным текстом Beacon и автодополнение Tab, работающие в любой программе.
Added: Включен по умолчанию Intelligent Tool Selection (ToolReranker) для более точного выбора инструментов.
Added: Разблокировано ограничение на историю чатов и добавлены переменные окружения для префиксов запросов в GenericOpenAi embedder.
Fixed: Исправлена ошибка API update-embeddings с ошибкой Prisma «filename is missing» на путях Windows.