TokenRhythm/NeoHorse

Что это за инструмент

NeoHorse — семейство открытых моделей от TokenRhythm: NeoHorse-1 (4B/9B) для агентных задач и NeoHorse-Jev (4B) для маршрутизации решений через prefill-only inference.

Зачем нужен

NeoHorse-1 оптимизирован для использования инструментов (tool use), написания кода и следования инструкциям, обеспечивая базу для агентных рабочих процессов. NeoHorse-Jev позволяет принимать структурированные решения (выбор действия, проверка условий, оценка) без генерации текста, что ускоряет маршрутизацию запросов и контроль рабочих процессов.

Что можно реализовать

• Маршрутизация запросов и выбор инструментов в agentic-системах с помощью NeoHorse-Jev
• Выполнение задач по написанию кода и следованию инструкциям через NeoHorse-1
• Оценка и ранжирование вариантов ответов или состояний приложения
• Запуск локальных LLM на Apple Silicon (через MLX) или на CPU/GPU с использованием квантованных GGUF-версий

Ключевые возможности

• Два направления: универсальный LLM (NeoHorse-1) и специализированная модель принятия решений (NeoHorse-Jev)
• Поддержка форматов GGUF (включая квантование до 4-bit) и MLX для широкого спектра оборудования
• Высокие результаты на бенчмарках принятия решений (JevBench, Nimble, VitaminC) среди открытых моделей
• Лицензия Apache 2.0, позволяющая свободное использование и модификацию
• Архитектура prefill-only inference для Jev, исключающая необходимость в генерации токенов для принятия решений

👤 Кому подойдёт: разработчики AI-агентов, инженеры по машинному обучению, исследователи в области LLM, разработчики, ищущие эффективные решения для маршрутизации и tool use на ограниченном железе