Прорыв в архитектуре AI-вычислений
На почте рассылки Linux Kernel mailing list появилось техническое описание новых реализаций расширения AMX для архитектуры x86. Инициатором выступил Christian Ludloff, известный эксперт по x86, ранее работавший в Google и AMD. Он задокументировал спецификации для процессоров с 16 и 32 тайлами AMX, тогда как текущее поколение Intel Xeon (Sapphire Rapids и новее) поддерживает только 8 тайлов.
Цель внедрения большего количества тайлов — радикальное увеличение пропускной способности для вычислительных ядер (compute kernels). Это шаг к эволюции AMX в будущую архитектуру AI Compute Extensions (ACE), которая ожидается как у Intel, так и у AMD.
Технические детали и ограничения
Согласно документации, новые реализации ориентированы на сценарии с высокой нагрузкой, где критична производительность матричных операций. Разработчик подчеркивает, что архитектура не предназначена для частых переключений контекста или виртуальных машин с быстрым переключением гостей.
| Параметр | Текущий стандарт (Intel) | Новая реализация (Ludloff) |
|---|---|---|
| Количество тайлов AMX | 8 | 16 или 32 |
| Основная цель | Базовые AI-инференс задачи | Масштабные compute kernels, минимизация переключений |
| Статус внедрения | Коммерчески доступно | Работает в масштабах (large scale), но анонимно |
| Будущая эволюция | — | Переход на ACE (AI Compute Extensions) |
Кто стоит за анонимным разработчиком?
Имя корпорации, заказавшей документацию, не раскрывается. Однако контекст указывает на крупного игрока, не являющегося Intel или AMD. Ранее Ludloff уже сообщал о «корпоративной сущности, отличной от Intel/AMD», разрабатывающей x86-совместимые решения. Учитывая опыт Ludloff в Google и его связь с Sandpile.org, индустрия предполагает, что речь может идти о кастомных чипах для облачных провайдеров или специализированных AI-ускорителях.
Почему это важно?
Увеличение числа тайлов с 8 до 32 означает потенциальное кратное увеличение производительности для моделей ИИ, работающих с большими матрицами. Это создает новую гонку вооружений в сегменте серверных процессоров, где производительность AI-инференса становится ключевым фактором выбора. Ожидается, что спецификации ACE, основанные на этих данных, станут стандартом для следующего поколения x86-серверов.
Источник: Phoronix ↗