NVIDIA NeMo Data Designer: Фреймворк для мультиформатных синтетических данных

Декларативный подход к синтетическим данным

Команда NVIDIA представила NeMo Data Designer (NDD), фреймворк с открытым исходным кодом, предназначенный для создания мультимодальных синтетических датасетов. В отличие от традиционных скриптовых подходов, NDD использует декларативный формат конфигурации, где пользователь явно описывает каждую колонку будущего датасета. Это обеспечивает прозрачность, воспроизводимость и возможность совместной работы над данными.

Мультимодальность и гибкость типов

NDD поддерживает широкий спектр типов данных, что делает его универсальным инструментом для обучения современных LLM и мультимодальных моделей. Архитектура позволяет легко расширять функционал через систему плагинов. Поддерживаемые типы включают:

• Текст и код;
• Структурированные выходные данные;
• Изображения;
• Векторные эмбеддинги;
• Статистические сэмплеры для управления разнообразием данных.

Архитектура и управление зависимостями

Ключевой особенностью NDD является встроенный механизм разрешения зависимостей между колонками. Фреймворк автоматически планирует вызовы к пользовательским endpoint-ам моделей и реализует механизм повторных попыток (retry logic) при сбоях. Это критически важно для сложных пайплайнов, где генерация одного поля зависит от результата другого.

Итеративный цикл «Preview-and-Revision»

Процесс генерации данных в NDD построен вокруг итеративного цикла. Пользователь может сгенерировать небольшой превью-набор записей, проверить их качество, внести правки в спецификацию и только затем запустить генерацию в полном масштабе. Это снижает затраты на вычисления и ускоряет отладку сложных промптов.

Практическое применение

Фреймворк уже используется в производственных средах. В частности, NDD применялся для создания датасетов, на которых обучались модели серии Nemotron. Также инструмент демонстрировал эффективность в задачах агентного взаимодействия и доменно-специализированных корпоративных деплоях.

Источник: arXiv cs.AI ↗