lemonade-sdk/lemonade

Полный редизайн GUI, новый HTTP-сервер, поддержка K2-Horizon и Flint, а также ряд ломающих изменений в API.

• Added: Полностью переработаны десктопное приложение и веб-интерфейс с новым менеджером моделей, визуальным редактором политик маршрутизации, локализацией на китайский язык и мобильной версией.
• Added: Добавлена поддержка новых моделей: семейства K2-Horizon (от 0.9B до MoVA-36B-A4B) и Flint.
• Added: HTTP-сервер переписан на архитектуре классов маршрутов с генерируемой документацией API и единой системой обработки ошибок.
• Breaking: GET-запросы к путям, поддерживающим только POST, теперь возвращают 405 вместо 404.
• Breaking: Отсутствие поля `model` в запросе теперь вызывает ошибку 'Missing model field in request' на всех маршрутах моделей.
• Fixed: Некорректные типы полей в form-encoded запросах (например, нечисловой temperature) теперь возвращают 400 вместо 500.

TheNoise для AMD в Core, мульти-референсы для редактирования, метрики инференса и изменения в API системных статистик.

• Added: TheNoise для AMD GPU (ROCm) переведен в Core tier на Linux и Windows.
• Added: Редактирование изображений теперь поддерживает несколько референсов с автоматическим выбором размера.
• Added: В GET /v1/stats добавлены метрики инференса: активные запросы и токены в секунду.
• Added: На Windows теперь доступна телеметрия утилизации и VRAM для AMD GPU.
• Breaking: GET /api/v1/system-stats возвращает данные по GPU с максимальным объемом памяти, а не по утилизации.
• Breaking: Модели с гостевым бэкендом скрыты из каталога и недоступны для pull без установки бэкенда.

Релиз v2026.42.1: поддержка Windows для TheNoise, новые модели в llama.cpp и HRX, исправления и ломачее изменение тега модели.

• Added: Добавлена поддержка Windows для TheNoise (ROCm) через встроенный портативный CPython.
• Added: Бэкенд llama.cpp обновлён: добавлены 6 новых архитектур моделей (clef, glm5-next, hrm_text, hy_v4, maple, spark2_5).
• Added: HRX runtime обновлён до версии b99, добавлено 26 новых текстовых чат-моделей.
• Added: Добавлена поддержка Qwen3.8-27B для FLM и улучшен импорт моделей из кэша Hugging Face.
• Fixed: Исправлено зависание стриминговых запросов при разрыве соединения клиентом.
• Breaking: Модель hy-mt2:1.8b переименована в hy-mt2-flash:1.8b; требуется обновление конфигураций.

Переход ROCm-бэкендов на ROCm 10, исправление Kokoro TTS и строгая валидация конфигурации.

• Breaking: ROCm-бэкенды (llama.cpp, whisper.cpp, stable-diffusion.cpp, ThinkSound, TRELLIS, ACE-Step) переключены на ROCm 10.
• Breaking: Конфигурация теперь отклоняет неизвестные ключи бэкендов, а не игнорирует их.
• Fixed: Исправлены четыре британских и один французский голоса в Kokoro TTS, выдававшие короткий аудиофайл фиксированной длины.
• Added: Нестриминговые запросы теперь немедленно прерываются при отключении клиента, освобождая ресурсы сервера.
• Deprecated: Устаревший флаг --no-mmap заменён на --load-mode none.

Поддержка AMD APU для стриминга, новый агент Junie, улучшенная информация о моделях и GPU, временное удаление ROCm-моделей.

• Added: Стриминг моделей теперь работает на интегрированных GPU AMD за счёт использования пула APU GTT.
• Added: Добавлен новый агент запуска Junie от JetBrains с поддержкой генерации профилей.
• Added: Лимиты контекстного окна и токенов облачных провайдеров теперь извлекаются из метаданных моделей.
• Added: В системной информации AMD GPU отображаются по маркетинговому названию, а не числовому коду.
• Breaking: Временно удалена поддержка openmoss:rocm и sd-cpp:rocm из-за исправления ошибок.

Релиз Lemonade v2026.39.1: поддержка AMD GPU, редактирование изображений, новый формат версий и автоочистка VRAM.

• Breaking: Изменён формат версий на YYYY.WW.N, что требует обновления скриптов парсинга.
• Added: TheNoise обновлён до 0.7.1 с поддержкой редактирования изображений и новых GPU AMD.
• Added: Добавлена конфигурируемая автоочистка VRAM с сохранением кэша промптов.
• Added: Появился новый эндпоинт /v1/docs для просмотра документации по API.
• Added: Разрешены wildcard-порты и поддомены в allowed_origins для локальной разработки.

Исправлены таймауты и CORS, добавлена поддержка Qwen3 и экспериментальный бэкенд AMD HRX, изменена структура моделей.

• Fixed: Исправлено блокирование удалённого доступа через allowed_origins и увеличен стандартный таймаут префилла до 600 секунд.
• Added: Добавлен экспериментальный бэкенд llamacpp-hrx для работы с AMD HRX на Linux.
• Added: Обновлена версия llama.cpp для поддержки модели Qwen3-Next.
• Breaking: Модели в папках chat/, embeddings/ и reranking/ теперь отображаются индивидуально, а не как единая группа.
• Deprecated: Переменная окружения LEMONADE_ALLOWED_ORIGINS устарела, рекомендуется использовать опцию allowed_origins.

Релиз v11.8.0: новый бэкенд DwarfStar для AMD, автообновление моделей, улучшенная работа с загрузкой и ряд ломающих изменений.

• Added: Добавлен экспериментальный бэкенд ds4 (DwarfStar) для работы с DeepSeek V4 Flash на GPU AMD Strix Halo.
• Added: В каталог добавлены модели RPG-HaloTales-V2, Flux-2-Klein-4B/9B, а также новые модели OpenMOSS для синтеза речи.
• Added: Появилась команда lemonade update-models и настройки для автоматического обновления моделей.
• Added: Улучшена работа с загрузкой: добавлена поддержка возобновления прерванных скачиваний и ограничение скорости.
• Breaking: Флаги --port и --host больше не сохраняются в конфиг; теперь нужно использовать команду lemonade config set.
• Breaking: Изменено поведение аргументов: merge_args=false теперь подавляет унаследованные аргументы, а llama.cpp по умолчанию отключает параллельное батчинг.

Релиз v11.7.0: новые модели, поддержка Windows/macOS, API для регистрации моделей и строгие проверки конфигурации.

• Added: Добавлены модели Qwen3.8-27B, NVIDIA Nemotron 3.5 Lightning 30B-A3B и Z-Image-Turbo.
• Added: Появились эндпоинты для регистрации моделей без загрузки файлов и управления опциями.
• Added: Вышла официальная установка через winget для Windows и Homebrew для macOS.
• Breaking: POST /pull теперь возвращает 400 при несовместимых режимах развертывания без автоисправления.
• Breaking: Изменен формат ответа /v1/audio/transcriptions: теперь возвращается чистый текст вместо JSON.

v11.6.0: добавлена модель Muse-Glimmer-30B, поддержка AMD Instinct, алиасы моделей и новые бенчмарки.

• Added: В каталог llama.cpp добавлена модель Muse-Glimmer-30B-GGUF с поддержкой draft decoding, зрения и вызова инструментов.
• Added: Бэкенд llama.cpp ROCm теперь работает на видеокартах AMD Instinct MI100, MI200, MI210 и MI250.
• Added: Появились экспериментальные команды `lemonade alias` для назначения собственных имен моделям и `lemonade bench` для тестирования мультимодальных моделей.
• Added: Добавлен экспериментальный бэкенд TheNoise для генерации изображений на AMD Strix Halo и Strix Point.
• Breaking: Запрос `/v1/audio/speech` к Kokoro с форматом mp3 теперь возвращает ошибку 400, так как поддерживается только pcm.
• Breaking: Эндпоинт `/v1/models` теперь отображает каждую квантованную GGUF-модель из подпапок `extra_models_dir` как отдельную запись.

lemonade bench для генерации изображений, отладка роутера, 10 моделей MiniCPM, фикс tool-calling и брейки в API.

• Added: lemonade bench получил режим бенчмарка для генерации изображений с фильтрацией и захватом ответов.
• Added: Router Builder получил вкладку Test Prompt для отладки политик маршрутизации через новый API-эндпоинт.
• Added: В каталог llama.cpp добавлены 10 моделей MiniCPM (текст и vision) в формате GGUF.
• Fixed: Исправлен лимит грамматики llama.cpp, теперь принимаются запросы tool-calling с большими JSON-схемами.
• Breaking: В поле model теперь возвращается идентификатор модели, а не локальный путь к .gguf файлу.
• Breaking: Выбор бэкенда auto теперь предпочитает Vulkan на AMD-системах для всех движков.