Что такое NVIDIA PAIR и зачем это нужно
NVIDIA выпустила бета-версию программного обеспечения Personal AI Router (PAIR). Это не просто утилита, а маршрутизатор, который объединяет совместимые устройства в единую локальную вычислительную среду. Главная цель — максимизировать использование локальных ресурсов (GPU и CPU) без отправки данных в облако. PAIR позволяет приложениям и AI-агентам отправлять запросы на один локальный endpoint, а система сама решает, какое устройство выполнит инференс, исходя из доступных мощностей.
Гетерогенная совместимость: Windows, Linux и macOS
Ключевое преимущество PAIR — способность работать с устройствами под разными операционными системами. Вы можете объединить в кластер ПК на Windows с видеокартами GeForce RTX, серверные узлы на Linux (DGX Spark) и компьютеры Apple Mac. При этом PAIR не объединяет видеопамять устройств в одну виртуальную GPU, а распределяет задачи параллельно, позволяя простаивающим узлам брать на себя нагрузку от перегруженных.
Интеграция с популярными бэкендами
На старте PAIR поддерживает интеграцию с двумя самыми популярными инструментами для локального запуска LLM: Ollama и LM Studio. Это означает, что пользователи могут продолжать использовать привычные интерфейсы, но запускать модели быстрее, так как запросы будут маршрутизироваться на наиболее свободный узел в сети. Поддержка работает на Windows, Linux и macOS.
Системные требования и конфигурации
Для работы кластера не требуется специальное оборудование, такие как кабели или стойки. Достаточно локальной сети. Ниже приведены валидированные конфигурации для участия в кластере:
| Параметр | Требования / Поддерживаемое оборудование |
|---|---|
| Операционные системы | Windows 11, DGX OS, Ubuntu 24.04, macOS Tahoe |
| Видеокарты (GPU) | Все GeForce RTX (серия 20 и новее), DGX Spark / GB10, Mac M4 и новее |
| Оперативная память (RAM) | 8 ГБ и выше |
| Место на диске | Рекомендуется 20 ГБ и выше |
| Интернет | Не требуется для работы (только для загрузки моделей) |
Приватность и безопасность данных
PAIR спроектирован с упором на локальный инференс. Все промпты, файлы и контекст агентов остаются в пределах домашней или корпоративной сети пользователя. Данные не отправляются на серверы NVIDIA или в публичное облако, что критически важно для работы с конфиденциальной информацией. Установка проста: достаточно скачать PAIR, добавить устройства в кластер и запустить приложения.
Источник: Nvidia ↗