AIKraft Agents

StartLuxLabs/StartLux-Decision

Открытые модели принятия решений от 0.8B до 27B: калиброванная вероятность для каждого варианта за один проход и краткое размышление только при неуверенности. Движок для vLLM, llama.cpp и MLX.

Инференс⭐ 1 654Pythonпоследний релиз: v1.1.0
Открыть на GitHub ↗Сайт проекта ↗

Что это за инструмент

StartLux-Decision — семейство открытых моделей принятия решений (от 0.8B до 27B), которые выдают вероятности для каждого варианта ответа за один проход, используя краткое рассуждение только при неопределенности.

Зачем нужен

Инструмент решает задачу структурированного выбора из предложенных вариантов (choice, yes/no, оценка по шкале) на основе текстового, JSON или визуального контекста. Он полезен для создания систем, где важна скорость и калиброванная уверенность решения, а не генерация свободного текста.

Что можно реализовать

  • Управление игровыми ботами в реальном времени (например, StarCraft II, шахматы, платформеры)
  • Анализ видеопотоков с принятием решений по кадрам (распознавание этапов спасательных операций, запусков ракет)
  • Автоматизация сложных бизнес-процессов с четкими вариантами ответов и шкалами оценок
  • Создание агентов, требующих быстрых тактических решений без долгих цепочек рассуждений

Ключевые возможности

  • Два режима работы: Instant (мгновенный ответ за один проход) и AutoThink (генерация короткого рассуждения, если уверенность ниже порога 0.6)
  • Поддержка бэкендов vLLM, llama.cpp и MLX для гибкого развертывания
  • Высокие результаты в бенчмарках Decision Index (лидер среди 174 моделей в версии 27B Instant)
  • Поддержка различных форматов моделей: GGUF, MLX 8-bit/4-bit
  • Совместимость API с System One /v1/systemone

👤 Кому подойдёт: разработчики AI-агентов, исследователи в области LLM, инженеры по машинному обучению, создающие системы реального времени

Релизы

v1.1.0major
🕐 22 дн назад · релиз на GitHub ↗

Релиз StartLux-Decision v1.1: добавлены AutoThink-модели, унифицированный движок и улучшенные метрики качества.

  • Added: Добавлены AutoThink-модели (4B, 9B, 27B), использующие краткие размышления при неуверенности.
  • Added: Выпущены мгновенные модели (0.8B–27B) с поддержкой чтения изображений в форматах GGUF и MLX.
  • Added: Движок startlux-decide поддерживает vLLM, llama.cpp и MLX, а также формат запроса System One.
  • Added: 27B AutoThink модель показала 73.37 балла на Decision Index 0.3 и 86.9% точности на DecisionPivot.
  • Added: Добавлена возможность настройки порога уверенности (gate) для каждого запроса, по умолчанию 0.6.