Новые игроки на рынке распределенных вычислений
Два стартапа — абу-дабский Far Labs и техасский Evolving Edge — создают платформы, позволяющие сдавать в аренду простаивающие игровые компьютеры для задач искусственного интеллекта. По словам основателя Far Labs Ильмана Шазхаева, проект позиционируется как «Airbnb для AI-инференса».
Far Labs планирует запуск платформы Far AI в ближайшие недели, заявляя о задержке (latency) не более 100 мс. Evolving Edge уже находится в стадии открытого бета-тестирования. Обе компании фокусируются на небольших open-source моделях, а не на тяжелых фронтьер-задачах, конкурируя с устоявшимся игроком — платформой Salad, сеть которой насчитывает более 60 000 активных потребительских GPU ежедневно.
Техническая реализация и безопасность
Ключевая проблема таких платформ — безопасность хоста. Чтобы исключить риски заражения вредоносным кодом или утечки данных, стартапы используют изоляцию. Вычисления запускаются в песочнице с зашифрованной связью и жесткими лимитами на доступ к GPU, CPU, памяти и сети.
- Far Labs: использует проприетарный планировщик, разбивающий модель на части, которые распределяются по машинам, а оркестратор собирает частичные ответы.
- Evolving Edge: применяет фреймворк Ray (стандарт для ЦОД) для распределения задач. Компания открыла исходный код своего нодового ПО для аудита пользователями.
Экономика: кто и сколько зарабатывает?
Рентабельность для владельцев ПК остается главной неопределенностью. Для сравнения, Salad продает вычисления от $0.02 в час, но владельцы железа получают лишь малую долю. Анализ Salad в 2021 году показал, что из $3.6 млн выручки пользователям выплатили около $500 000 (14 центов с каждого доллара). После вычета электроэнергии (RTX 4090 потребляет 350–450 Вт, что при тарифе $0.15/кВт·ч обходится в $40–50 в месяц) чистая прибыль может быть отрицательной.
| Параметр | Far Labs | Evolving Edge | Salad (для сравнения) |
|---|---|---|---|
| Статус | Запуск в ближайшие недели | Открытая бета | Работает с 2021 г. |
| Технология | Проприетарный планировщик | Open-source фреймворк Ray | Собственная платформа |
| Задержка (Latency) | ≤ 100 мс | Не указано | Не указано |
| Фокус задач | Open-source модели | Open-source модели | Различные (включая майнинг в прошлом) |
| Безопасность | Изоляция, шифрование | Изоляция, открытый код ноды | Изоляция |
Аргументы «за» и «против»
Основатель Evolving Edge Джон Федерико указывает на устойчивость распределенных сетей к сбоям. Он привел пример аварии AWS в октябре, когда умные кровати зависли в вертикальном положении, отметив, что его сеть потеряла бы 100 из 250 000 нод без последствий. Однако эксперты отмечают проблему доверия: предыдущий проект Pearl маскировал бессмысленные матричные вычисления под AI. Far Labs и Evolving Edge обещают реальные задачи, но их финансовые и технические показатели пока не подтверждены масштабным тестированием.
Источник: Tom's Hardware ↗