Лаборатория Supersonic Labs представила Julia 1 — первую открытую модель принятия решений (decision model) с 144,3 млн параметров. В отличие от LLM, эта архитектура не генерирует текст: она принимает контекст, вопрос и от 2 до 20 вариантов ответа, выбирая лучший и возвращая вероятности для каждого. Модель работает локально на CPU или GPU (BF16), а также доступна через ONNX-билд для WebGPU в браузере. Лицензия — Apache 2.0, веса опубликованы на Hugging Face.
Архитектура и экономия
Julia 1 построена на базе энкодера mmBERT-small (JHU CLSP), обученного на 1800+ языках. Разработчики сохранили энкодер и токенизатор, добавив слой принятия решений. Важно отметить: это не дообученная Qwen. Общий бюджет на обучение и эксперименты составил всего ~$104 (540 бразильских реалов). Вес модели в FP32 — 550,5 МБ. Поддерживается до 8192 токенов, хотя бенчмарки проводились на лимите в 1024 токена.
Результаты бенчмарков
Оценка проводилась 24 сентября 2026 года на GPU H200. Julia 1 показала сильные результаты на задачах с малым числом классов, но проиграла в сложной многоклассовой классификации. Ниже приведено сравнение с референсными значениями Jev и GLiNER2.5:
| Датасет / Задача | Julia 1 | Jev (реф.) | GLiNER2.5 | Примечание |
|---|---|---|---|---|
| Typed Decisions | 73,15% | 72,70% | — | Общий тест |
| AG News (4 класса) | 94% | 91% | 70% | Классификация новостей |
| DAIR Emotion (6 классов) | 86% | 48% | 44% | Распознавание эмоций |
| Banking77 (72 класса) | 64% | 87% | 61% | Крупный провал Julia 1 |
| MASSIVE (52 локали) | 71,50% macro | — | — | 86,25% pt-PT, 86,75% en-US |
Производительность на устройствах
Модель оптимизирована для edge-устройств. На Apple M4 медианное время принятия одного решения составило 33,15 мс. На планшете Samsung SM-X510 (через ONNX Runtime) — 203 мс при потреблении 393,1 МБ оперативной памяти. На Intel Core i5-1235U задача AG News решалась за 107,83 мс, однако Banking77 (72 класса) требовал 3,7 секунды из-за этапа сужения списка меток.
Ограничения и планы
Julia 1 не предназначена для проверки фактов, алгебры или многошаговых вычислений. Она работает только с предоставленными пользователем вариантами ответов. Разработчики предупреждают: модель может терять правильную метку при сужении списка (Router). В разработке находится Julia 2 с собственной архитектурой. Планируется запуск платного API по цене $0,025 за 1 млн токенов.
Бенчмарки
| Бенчмарк | Julia 1 | GLiNER2.5 Multi | TypeSafe Jev |
|---|---|---|---|
| Typed Decisions | 73.15% | — | 72.7% |
| AG News | 94% | 70% | 91% |
| DAIR Emotion | 86% | 44% | 48% |
| Banking77 | 64% | 61% | 87% |
Жирным — лучший результат в строке. Источник цифр — официальная публикация.
Источник: MarkTechPost ↗