На OCP Global Summit 2026, прошедшем в Сан-Хосе с 12 по 15 октября, компания XCENA представила свои инновации в области инфраструктуры памяти для искусственного интеллекта. Ключевым элементом демонстрации стал чип MX1 — решение на базе Compute Express Link (CXL), направленное на решение двух главных проблем современного AI-инференса: растущих требований к объему памяти и высоких затрат на перемещение данных между процессором и памятью.
Два сценария использования MX1
XCENA продемонстрировала два конкретных применения своей технологии в реальных рабочих нагрузках:
- Общий пул KV-кэша: Несколько серверов с AI-инференсом получили возможность совместно использовать кэш ключей и значений (KV cache) через пул памяти CXL. Это устраняет необходимость дублирования контекста модели на каждом сервере, сокращая избыточные копии и трафик перемещения данных.
- Обработка у данных (Near-Data Processing): Для ускорения векторного поиска, критически важного этапа в Retrieval-Augmented Generation (RAG), MX1 выполняет вычисления непосредственно в памяти. Это позволяет избежать многократного перемещения больших наборов данных к хост-процессору.
Партнерство с SK hynix и архитектура InfiniteMemory
Особое внимание было уделено совместной работе XCENA и SK hynix над гибридной архитектурой памяти CXL. Партнеры подтвердили, что их решение, использующее технологию InfiniteMemory (расширение памяти на базе SSD), обеспечивает значительно большую масштабируемость по сравнению с традиционными CMM-D, сохраняя при этом производительность выше уровня обычных SSD. На саммите SK hynix также представила архитектуру на базе RDMA, построенную на чипе MX1.
Сравнение подходов к оптимизации памяти
| Параметр | Традиционный подход | Решение XCENA (MX1 + CXL) |
|---|---|---|
| Хранение KV-кэша | Дублирование на каждом сервере | Общий пул памяти (Shared Pool) |
| Векторный поиск (RAG) | Перемещение данных в CPU | Вычисления у данных (NDP) |
| Масштабируемость | Ограничена CMM-D | Гибридная архитектура (SSD-backed) |
Экосистема и дорожная карта
Тема памяти стала центральной на многих сессиях саммита. Генеральный директор XCENA Джин Ким отметил, что производительность AI-инфраструктуры больше не зависит только от вычислительной мощности, но и от эффективности использования памяти. В панели «Beyond the Monolith» приняли участие представители Marvell, Samsung, SK hynix и Gottbrath Technologies, обсуждая открытое middleware для гетерогенных систем. Также была представлена техническая обновленная информация от подпроекта Composable Memory Systems (CMS) с участием Microsoft, Seagate и Meta.
Источник: TechPowerUp ↗