Принцип работы: от «idle» к вычислительной сети
GPUMesh — это CLI-инструмент на Rust, превращающий простаивающие видеокарты в распределённый вычислительный кластер. В отличие от облачных провайдеров, здесь нет биллинга или репутационных систем: пользователи сами формируют доверенные группы. Рабочие нагрузки выполняются в изолированных Docker-контейнерах непосредственно на хосте владельца GPU, что исключает риски утечки данных через сторонние серверы.
Технические детали и безопасность
Связь между узлами строится на протоколе QUIC (UDP порт 47000 по умолчанию) с использованием Ed25519 для аутентификации. Ключевая особенность — модель безопасности «default-deny»: доступ открывается только после взаимного сопряжения (pairing) с помощью подписанных кодов. Если прямое соединение невозможно из-за NAT, используется опциональный relay-сервер, но сами данные задач никогда не проходят через публичные реестры.
Ключевые возможности платформы
- Запуск задач: Поддержка флага
--gpu-memoryдля планировщика, который автоматически выбирает узел с достаточным VRAM. - Управление файлами: Команды
gpumesh cpиgpumesh app syncдля передачи датасетов и кода. - Удалённый доступ: Встроенное туннелирование RDP/VNC для графических задач и экспериментальная поддержка CUDA remoting (LAN Runtime-API subset).
- Локальная панель: Dashboard на Next.js для мониторинга метрик NVML и управления пирингом.
Сравнение с альтернативами
| Критерий | GPUMesh | Обычные облачные GPU | Прямой SSH/VNC |
|---|---|---|---|
| Модель доступа | P2P, доверенные группы | Маркетплейс/Биллинг | Прямое сетевое подключение |
| Изоляция задач | Docker-контейнеры | Виртуальные машины/Контейнеры | Прямой доступ к хосту |
| Безопасность | Ed25519, default-deny | Зависит от провайдера | Зависит от настроек фаервола |
| Цель использования | Частные кластеры, коллаборация | Масштабируемые продакшен-задачи | Администрирование серверов |
Требования и статус
Проект находится в стадии Alpha (0.1). Основные требования: Linux с NVIDIA GPU и Docker NVIDIA Container Toolkit. Windows и WSL поддерживаются частично, macOS не поддерживает шаринг NVIDIA GPU. Установка осуществляется через сборку из исходников (Rust stable) или установку бинарника в PATH.
Источник: Github ↗
