serving-llms-on-epyc
Запускает LLM на CPU AMD EPYC через vLLM с zentorch в Docker, Podman или conda. Подходит для EPYC (Zen4+), включая хосты с AMD Instinct GPU. Не поддерживает EPYC 4000 и модели без AVX-512.
AIamd
official
Разработка
★ 401
Что делает навык
Запускает LLM на CPU AMD EPYC через vLLM с zentorch в Docker, Podman или conda. Подходит для EPYC (Zen4+), включая хосты с AMD Instinct GPU. Не поддерживает EPYC 4000 и модели без AVX-512.
Как подключить
1Скачать навык
# возьмите папку навыка «serving-llms-on-epyc» из репозитория:
# https://github.com/amd/skills
2Положить папку с
SKILL.md к навыкам ассистента# положите папку навыка туда, где ассистент ищет skills:
cp -r serving-llms-on-epyc/ ~/.claude/skills/serving-llms-on-epyc/
Навык — папка с файлом SKILL.md (описание + инструкции) и опциональными скриптами. Ассистент (Claude, Claude Code и совместимые) подхватывает его по описанию и следует шагам.