AIKraft/AI/Войти
AIKraft/Skills/Производительность RAG

Производительность RAG

Performance benchmarking for a deployed NVIDIA RAG Blueprint server: profiling pass + aiperf load test driven by a single YAML config. Not for accuracy / RAGAS scoring (use rag-eval) or for deploying / repairing services (use rag-blueprint).

nvidia official Разработка

Что делает навык

RAG-Perf — это инструмент для бенчмаркинга производительности развернутого сервера NVIDIA RAG Blueprint, управляемый через YAML-конфиг. Он выполняет профилирование сервера (тайминги по этапам, качество цитирования, выявление узких мест) и опционально нагрузочное тестирование aiperf (TTFT, E2E, пропускная способность токенов и запросов, уровень ошибок), формируя единый отчет.

Когда применять

  • Профилирование производительности развернутого сервера NVIDIA RAG Blueprint по этапам обработки запросов.
  • Выявление узких мест (bottleneck inference) в работе сервера RAG на основе метрик качества цитирования и таймингов.
  • Нагрузочное тестирование сервера с помощью aiperf для оценки TTFT, E2E, пропускной способности и уровня ошибок.
  • Сравнение производительности различных конфигураций RAG-сервера с использованием единого YAML-конфига.

Как работает

  1. Подготовить YAML-конфигурацию, определяющую параметры тестирования и профилирования.
  2. Запустить CLI-утилиту rag-perf с указанием пути к конфигу: rag-perf -c <config>.
  3. Инструмент подключается к развернутому серверу RAG Blueprint, доступному в сети.
  4. Выполняется серверное профилирование: замер таймингов по этапам, оценка качества цитирования и анализ узких мест.
  5. (Опционально) Запускается нагрузочное тестирование aiperf для сбора метрик производительности.
  6. Формируется и записывается единый отчет о производительности.

Примеры запросов агенту

Запусти профилирование сервера RAG с конфигом perf_config.yaml.
Выполни нагрузочное тестирование RAG-сервера через aiperf, используя config.yaml, и покажи отчет.
Проверь производительность развернутого NVIDIA RAG Blueprint с помощью rag-perf и config_test.yml.

Что понадобится

  • Развернутый сервер NVIDIA RAG Blueprint, доступный в сети.
  • Утилита rag-perf (CLI).
  • YAML-конфигурация с параметрами тестирования.

Описание составлено по SKILL.md навыка, сверено 05.10.2026.

Как подключить

1Скачать навык
# возьмите папку навыка «rag-perf» из репозитория: # https://github.com/nvidia/skills
2Положить папку с SKILL.md к навыкам ассистента
# положите папку навыка туда, где ассистент ищет skills: cp -r rag-perf/ ~/.claude/skills/rag-perf/

Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.