Команда исследователей Apple опубликовала на arXiv работу, описывающую внутреннюю систему Minions — «виртуальное GPU-облако», собранное из простаивающих компьютеров Mac. Идея проста: вместо того чтобы держать мощные серверные GPU в простое или заставлять сотрудников ждать освобождения ресурсов, Apple перераспределяет легкие ИИ-задачи на рабочие станции сотрудников, когда те не используются.
Система ориентирована исключительно на AI inference (вывод) на базе Apple Silicon. Она обрабатывает два типа задач: генерацию эмбеддингов с использованием открытых трансформеров Hugging Face и генерацию текста через LLM, развернутые локально через Ollama. Ключевое преимущество — устранение очередей. Если раньше некоторые задачи ждали освобождения корпоративных GPU более 10 часов, то с Minions время ожидания сокращается до нескольких минут.
Архитектура и компоненты
Система состоит из трех основных компонентов, работающих по pull-модели (без центрального планировщика):
- Minion Server: Разбивает задачи на подзадачи и хранит их в базе данных PostgreSQL.
- Minion Executor: Запускается на каждом Mac. Он самостоятельно забирает следующую подзадачу через REST API, скачивает данные с Amazon S3, выполняет вычисления на локальном GPU и возвращает результат обратно в S3.
- Minion Watchdog: Мониторит «сердцебиение» (heartbeat) каждые 5 минут. Если Mac уходит в сон, отключается от сети или пользователь останавливает процесс, задача возвращается в очередь.
Экономика и безопасность
Использование Minions позволяет Apple не закупать дополнительные GPU для этих задач, обнуляя инфраструктурные затраты на эти конкретные воркфлоу. Масштабирование происходит органически, без ручного управления. Однако остаются вопросы конфиденциальности: сотрудники опасаются, что их данные могут обрабатываться на чужих устройствах. Для решения этого Apple внедряет изолированные пулы Mac и базы данных в рамках конкретных команд.
| Параметр | Традиционный подход (GPU-очередь) | Система Minions |
|---|---|---|
| Время ожидания задачи | До 10+ часов | Несколько минут |
| Инфраструктурные затраты | Высокие (серверные GPU) | Нулевые (использование простаивающих Mac) |
| Масштабирование | Ручное, требует закупок | Органическое, за счет участников |
| Тип задач | Обучение и инференс | Только инференс (Ollama, Hugging Face) |
В будущем Apple планирует расширить функционал Minions до распределенного обучения моделей. Авторы отмечают, что если объединить простаивающие Mac не только внутри компании, но и «потенциально в глобальном сообществе», можно создать огромный федеративный пул GPU-ресурсов. Пока же система работает как «переливная» мощность внутри Apple, помогая справляться с дефицитом вычислительных ресурсов, о котором компания открыто говорит в своих финансовых отчетах.
Источник: Tom's Hardware ↗