Абсолютное лидерство в Agentic AI и энергоэффективности
В ходе детального тестирования локального ИИ с использованием бенчмарка AgentPerf-Local от Artificial Analysis, Mac Studio на базе чипа M5 Ultra (36-ядерный CPU, 80-ядерный GPU, до 512 ГБ унифицированной памяти) продемонстрировал выдающиеся результаты. При использовании модели Qwen 3.8 27B и движка llama.cpp с поддержкой много-токенного предсказания (MTP), Mac Studio выполнил задачу менее чем за половину времени по сравнению с системой на базе Nvidia GB10 (архитектура Blackwell, аналог DGX Spark).
Ключевым фактором стала не только сырая вычислительная мощность, но и пропускная способность памяти: 1,2 ТБ/с у M5 Ultra против 273 ГБ/с у GB10. Это позволило Mac Studio не только работать быстрее, но и быть энергоэффективнее: потребление энергии на задачу оказалось на 16% ниже, а показатель Energy-Delay Product (EDP) — менее чем в два раза лучше, чем у конкурента.
Столкновение гигантов: DeepSeek V4.1 Flash 1017
Для проверки пределов 256 ГБ памяти были выбраны крупные модели: DeepSeek V4.1 Flash 1017 и GLM 5.3 Flash. Здесь ситуация изменилась. Mac Studio ограничен выбором движков: для DeepSeek приходится использовать llama.cpp, который не поддерживает speculative decoding (так как веса модели и модель-кандидат не помещаются в память одновременно). В то же время кластер из двух DGX Spark может использовать оптимизированный стек TensorFold и DSpark.
Результат оказался драматичным: Mac Studio требовал от 10 до 25 минут для обработки длинных контекстов DeepSeek, тогда как кластер Spark справлялся с этим менее чем за 5 минут. Для работы с такими «тяжеловесами» связка из двух Spark-систем остается безоговорочным лидером по скорости.
Экономическая целесообразность: $12 300 против $20 000+
Сравнение цен добавляет контекст. Максимальная конфигурация Mac Studio с M5 Ultra стоит около $12 300. Система на базе одного GB10 (например, Dell Pro Precision) оценивается в $10 000, а для запуска крупных моделей требуется кластер из двух таких систем, что выливается в $20 000+ (с учетом SSD и настройки). Даже если рассматривать базовые цены Spark, кластер обходится минимум на 25% дороже единичного Mac Studio.
| Параметр | Mac Studio (M5 Ultra) | Nvidia DGX Spark (Кластер из 2x GB10) |
|---|---|---|
| Цена (оценочная) | ~$12 300 | >$20 000 |
| Память (RAM) | До 512 ГБ унифицированной | 128 ГБ на узел (требует кластер для больших моделей) |
| Пропускная способность памяти | 1,2 ТБ/с | 273 ГБ/с (на узел) |
| Agentic AI (Qwen 3.8 27B) | Быстрее в 2 раза, EDP в 2 раза лучше | Медленнее, выше энергопотребление |
| DeepSeek V4.1 Flash 1017 | 10–25 мин (llama.cpp, без spec-decoding) | <5 мин (TensorFold + DSpark) |
| Основной вывод | Лучше для эффективности и средних моделей | Единственный выбор для гигантских моделей |
Итог: что выбрать?
Mac Studio M5 Ultra — это король энергоэффективности и производительности на доллар для задач, где важна скорость обработки промптов и работа с моделями среднего размера (до ~27B параметров без квантования или с легким квантованием). Однако, если ваша цель — запускать самые передовые открытые модели вроде DeepSeek V4.1 Flash 1017 в полном объеме, экосистема Nvidia Spark с оптимизированными рецептами (TensorFold) пока остается единственным viable решением, несмотря на высокую стоимость и сложность настройки кластера.
Источник: Tom's Hardware ↗