Суть релиза: Локальный AI для бизнес-логики
Компания Nace AI выпустила Drex Max v1 с открытыми весами. Это не просто текстовая модель, а специализированный decision model (модель принятия решений). В отличие от LLM, она не генерирует текст, а в одном проходе вычисляет вероятности для каждого из предложенных вариантов ответа (до 255 опций) на основе контекста (текст, JSON или изображения). Это делает её идеальной для маршрутизации тикетов, проверки политик безопасности и классификации запросов агентов.
Архитектура и технические характеристики
Модель построена на базе 27 миллиардов параметров (dense) и 64 слоев. Уникальная архитектура сочетает 48 слоев линейного внимания (Gated DeltaNet) для эффективного прохода слева направо и 16 слоев полного внимания (full-attention), которые позволяют каждому токену видеть всю последовательность. Контекстное окно составляет 262,144 токенов (по умолчанию 16,384). Визуальный бэкэнд позволяет обрабатывать изображения, делая их доступными для каждого вопроса в запросе.
Производительность и бенчмарки
По заявленным данным Nace AI, Drex Max v1 демонстрирует значительный прогресс по сравнению с предыдущими версиями. Модель показала результат 67.52 в публичном Decision Index 0.4, что на 6.27 балла выше, чем у Drex v2.0. Особое внимание стоит уделить области инструментов (Tools), где модель набрала 81.9 балла, а также отличной работе с визуальными данными (InfographicVQA — 97.3 skill).
| Метрика / Модель | Drex Max v1 | Drex v2.0 | Jev 1.13.0 |
|---|---|---|---|
| Decision Index 0.4 | 67.52 | 61.25 | 57.96 |
| AA Decision Index | 64 (4-е место из 18) | 58 | 58 |
| JevBench | 92.2% | 85.7% | 86.6% |
| Decision Bench v4 | 94.30% | — | — |
| Параметры | 27B Dense | 35B MoE (~3B актив.) | 9B |
| Контекст | 262,144 | 131,072 | Не раскрыто |
Локальный запуск: Apple Silicon и NVIDIA
Ключевое преимущество Drex Max v1 — возможность запуска на локальном оборудовании. Nace AI предоставляет несколько форматов весов для разных сценариев:
- Apple Silicon (M-series): Поддержка через MLX, Kapitsa, llama.cpp и Ollama. Для Mac с 24 ГБ+ памяти доступен квантованный чекпоинт affine Q4 (14.45 ГБ). Для Mac с 48 ГБ памяти доступен формат Q8_0 GGUF (27.25 ГБ). Тесты на M5 Pro показали, что квантование Q8_0 сохраняет точность с погрешностью вероятности всего 0.02 по сравнению с H100 bf16.
- NVIDIA GPU: Запуск через Python. Требуется ~49 ГБ VRAM для bf16 или ~26 ГБ для 8-битной версии. Поддерживаются карты H100 и L40S.
Все рантаймы используют единый API POST /v1/systemone, что упрощает интеграцию в существующие пайплайны.
Почему это важно
Открытие весов Drex Max v1 решает проблему конфиденциальности и задержек в корпоративных средах. Поскольку модель не генерирует текст, а выдает структурированные вероятности, она потребляет меньше ресурсов и не требует передачи чувствительных данных в облако. Стоимость хостинга у провайдера составляет $0.03 за 1K решений, но локальный запуск делает этот процесс полностью бесплатным после загрузки весов, что критично для масштабируемых систем с высоким трафиком запросов.
Источник: MarkTechPost ↗