Рекордная точность без дообучения модели
Команда LangChain провела оптимизацию своей платформы Deep Agents специально для NVIDIA Nemotron 3 Ultra. Результатом стала самая высокая точность среди открытых моделей на публичном бенчмарке LangChain. При этом ключевым фактором успеха стала не fine-tuning самой нейросети, а инженерная настройка «хауса» (harness) — системных промптов, описаний инструментов и middleware.
Это означает, что бизнес может получить производительность уровня закрытых лидеров (таких как GPT-4 или Claude), используя полностью открытый стек, который можно кастомизировать, владеть им и запускать на любой инфраструктуре.
Сравнение эффективности: Open Stack vs Closed Models
Сравнение проводилось по метрикам выполнения бизнес-задач, пропускной способности и стоимости. Ниже приведены ключевые показатели, достигнутые в связке Nemotron 3 Ultra + LangChain Deep Agents:
| Метрика | NVIDIA Nemotron 3 Ultra + LangChain | Ведущие закрытые модели (Closed Models) |
|---|---|---|
| Точность (Accuracy) | Лидер среди открытых моделей; паритет с лучшими закрытыми | Высокая (эталон для сравнения) |
| Стоимость инференса | В 10 раз ниже | Базовый уровень |
| Пропускная способность (Throughput) | Выше (завершает больше задач в единицу времени) | Стандартная |
| Требования к обучению | Не требуются (gain achieved via harness engineering) | — |
Почему это важно для Enterprise
Гарри Чейз (Harrison Chase), сооснователь и CEO LangChain, подчеркивает: «Лучшие агенты строятся за счет улучшения системы вокруг модели». Оптимизация окружения позволяет компаниям:
- Экономить бюджет: Снижение стоимости в 10 раз позволяет проводить непрерывные оценки (evaluations) и быстрее экспериментировать.
- Сохранять контроль: Открытый стек (модель + хаус + рантайм) дает предприятиям полный контроль над данными и governance, что критично для высокоуровневых рабочих процессов.
- Масштабировать: Платформа LangChain имеет более 200 миллионов ежемесячных загрузок, что обеспечивает готовую экосистему для внедрения.
Реальное внедрение и доступность
Решение уже используется крупными игроками. Компании Abridge, Amdocs и Box интегрируют специализированных агентов в свои платформы, а консалтинговая компания EY расширяет возможности внедрения NVIDIA NemoClaw для своих клиентов.
Для разработчиков доступен открытый референсный шаблон NVIDIA NemoClaw for LangChain Deep Agents, который объединяет код LangChain и безопасный рантайм NVIDIA OpenShell. Модель Nemotron 3 Ultra и оптимизированный профиль хауса доступны прямо сейчас через платформы Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius и Together AI.
Источник: NVIDIA Blog ↗