Что такое Unsloth Desktop
Команда Unsloth представила Unsloth Desktop (Beta) — бесплатное приложение с открытым исходным кодом, построенное на базе Tauri. Оно позволяет запускать, обучать и разворачивать большие языковые модели (LLM), диффузионные модели для изображений и видео, а также аудио-модели непосредственно на локальном оборудовании пользователя. Приложение доступно для macOS, Windows и Linux (включая WSL).
Главное преимущество — отсутствие необходимости в сложной настройке окружения. Пользователь скачивает приложение, выбирает модель из встроенного хабa (на базе llama.cpp и Hugging Face) и начинает работу. Поддерживаются форматы GGUF, MLX, а также модели от Meta, NVIDIA, Qwen, Kimi и других.
Производительность и новые модели
Unsloth Desktop позиционируется как инструмент для работы с самыми свежими архитектурами. Среди поддерживаемых моделей — Qwen3.8, Kimi K3, MiniMax-H3, Muse Glimmer, DeepSeek V4, GLM-5.2, Gemma 4. Приложение обещает поддержку новых моделей в день их выхода (Day Zero support).
Особое внимание уделено оптимизации диффузионных моделей. Для генерации видео на базе MiniMax-H3 на GPU NVIDIA B200 время создания 124-кадрового видео разрешением 960×544 сократилось с 70+ секунд до 13 секунд (8 шагов генерации). Также поддерживаются FLUX, Z-Image, LTX и Wan.
Агентность и безопасность
Приложение интегрируется с локальными агентами через команду unsloth start. Поддерживается подключение Claude Code, Codex, Hermes Agent, OpenClaw и других. Ключевая фича — самовосстанавливающиеся вызовы инструментов (self-healing tool calls), которые повышают точность на 50% за счет автоматического обнаружения, исправления и повторного запуска упавших запросов.
Безопасность обеспечивается через систему разрешений: модель может работать в изолированной песочнице или получать доступ к файлам только с явного одобрения пользователя. Также реализован неограниченный приватный веб-поиск и глубокий анализ (Deep Research), где модель сначала планирует поиск, а затем формирует отчет с цитатами.
Обучение моделей без кода
Unsloth Desktop позволяет обучать LoRA-адаптеры для текстовых, диффузионных и аудио-моделей без написания кода. Пользователь может загрузить PDF, CSV или JSON, подписать данные в Studio и запустить тренировку. Заявлено ускорение в 2 раза и снижение потребления VRAM на 70% без потери точности. Поддерживается полная донастройка (full fine-tuning) и предобучение.
Деплой и доступность
Для удаленного доступа к локальным моделям используется бесплатный туннель Cloudflare HTTPS или привязка к сети через -H 0.0.0.0. Это позволяет управлять моделями с телефона или другого устройства. Приложение не собирает телеметрию, работает офлайн и поддерживает API, совместимое с OpenAI.
| Функция | Детали и метрики |
|---|---|
| Генерация видео (MiniMax-H3) | 13 сек на NVIDIA B200 (960x544, 124 кадра, 8 шагов) |
| Точность вызовов инструментов | Увеличение на 50% благодаря self-healing логике |
| Обучение LoRA | 2x быстрее, -70% VRAM, без потери точности |
| Поддерживаемые ОС | macOS, Windows, Linux, WSL |
| Безопасность | Песочница, контроль разрешений, отсутствие телеметрии |
Источник: Unsloth ↗