Разработка искусственного интеллекта перешла от этапа экспериментальных прототипов к фазе жесткой оптимизации производительности. В то время как большие языковые модели (LLM) становятся все более сложными, «узким горлышком» часто становится не сама модель, а скорость выполнения низкоуровневых операций на графических процессорах (GPU). Именно здесь на сцену выходит проект Hugging Face Kernels. Это не просто библиотека, а инфраструктурный слой, который стандартизирует упаковку, распространение и потребление пользовательских ядер (kernels) — оптимизированных вычислительных блоков, написанных на C++ или CUDA.
В июле 2026 года команда Hugging Face представила масштабное обновление проекта, которое фактически пересобрало его с нуля. Мы видим переход от набора разрозненных утилит к полноценной экосистеме с новыми типами репозиториев, усиленной кибербезопасностью и инструментами для автономной разработки. Для разработчиков AI это означает, что теперь можно не только писать быстрые ядра, но и доверять им, а также делегировать процесс их создания и оптимизации AI-агентам. Давайте разберем каждое изменение подробно, чтобы понять, как это меняет правила игры.
01Ядра как первый класс экосистемы Hub
Ранее пользовательские ядра часто хранились в обычных репозиториях, что создавало путаницу в управлении зависимостями и совместимостью. Hugging Face представил новый тип репозитория — "kernel". Это позволяет платформе учитывать специфические требования вычислительных устройств. Теперь страница каждого ядра содержит четкую информацию о том, какие ускорители (GPU/TPU), операционные системы и версии бэкендов поддерживаются.
Это изменение делает ядра полноправными гражданами Hugging Face Hub. Пользователи могут просматривать все доступные ядра в едином каталоге по адресу https://huggingface.co/kernels. Такая централизация приносит пользу всей экосистеме: появляются тренды, видно, какие ядра используются с какими моделями, и разработчикам становится проще находить готовые решения для оптимизации своих пайплайнов. Вместо того чтобы искать CUDA-код в глубинах GitHub, вы можете найти проверенное ядро с документацией и метаданными совместимости в одном клике.
02Безопасность: от доверия к криптографии
Поскольку ядра выполняются как нативный код с теми же привилегиями, что и процесс Python, их загрузка несет серьезные риски. Злоумышленник может внедрить вредоносный код, который украдет данные или повредит систему. Поэтому безопасность стала приоритетом номер один в этом обновлении. Команда внедрила многоуровневую защиту, основанную на воспроизводимости, доверенных издателях и подписи кода.
Доверенные издатели (Trusted Publishers)
По умолчанию пакет kernels теперь загружает ядра только от доверенных издателей. Это организации, которые прошли проверку сообщества и действуют в добрых намерениях. Если вы попытаетесь загрузить ядро от неподтвержденного пользователя, система заблокирует его, если вы не укажете флаг trust_remote_code=True.
Это критически важно для корпоративного использования. По умолчанию пользователи не могут публиковать ядра на Hub; они должны запросить доступ через настройки аккаунта. Это дает команде Hugging Face время рассмотреть каждый запрос индивидуально, предотвращая спам и вредоносные загрузки. Однако для исследователей и энтузиастов путь открыт: вы можете явно разрешить загрузку сторонних ядер, понимая риски.
trust_remote_code=True при инициализации. Это защищает вас от случайной загрузки вредоносного кода.Подпись кода (Code Signing)
Даже доверенный издатель может стать жертвой компрометации учетных данных. Чтобы защититься от этого, Hugging Face внедрила подпись кода. Каждое ядро подписывается закрытым ключом разработчика и проверяется с помощью открытого ключа. Если злоумышленник получит доступ к репозиторию доверенного издателя, он не сможет подписать вредоносное ядро, так как у него не будет закрытого ключа.
Для дополнительной защиты используется технология Sigstore’s cosign с эфемерными (временными) ключами. Эти ключи действительны только ограниченное время, что сводит к минимуму ущерб в случае утечки. Кроме того, система проверяет, что ядро было подписано в рамках доверенного GitHub Actions workflow. Инструмент kernel-builder уже поддерживает эту функцию, а команда выпустила утилиту kernels verify-signature для ручной проверки целостности.
03Обновленные CLI и разделение ответственности
Ранее утилиты для сборки и загрузки ядер были перепутаны между пакетами kernels и kernel-builder. В новом обновлении произошло четкое разделение: kernels теперь отвечает исключительно за загрузку и подготовку ядер к использованию, а kernel-builder — за их компиляцию и сборку. Это сделало оба инструмента более легкими и специализированными.
Теперь интерфейс командной строки (CLI) kernel-builder стал более предсказуемым и удобным для автоматизации. Команды стали неинтерактивными, а вывод структурирован так, чтобы его было легко парсить программно. Это открывает путь для интеграции с AI-агентами, которые могут управлять процессом сборки без вмешательства человека.
04Поддержка Torch Stable ABI и TVM
Одной из главных болей разработчиков ядер была фрагментация версий PyTorch. Каждое обновление PyTorch часто требовало перекомпиляции всех кастомных ядер. Обновление решает эту проблему через поддержку Torch Stable ABI.
Torch Stable ABI позволяет разработчикам целеполагаться на конкретную версию PyTorch (например, 2.9) и гарантировать совместимость со всеми последующими версиями в течение примерно двух лет. Ядро, собранное для Torch 2.9 Stable ABI, будет работать на PyTorch 2.9, 2.10, 2.11 и так далее. Это радикально снижает затраты на поддержку и обновление инфраструктуры.
Кроме того, добавлена поддержка Apache TVM FFI (Foreign Function Interface). TVM предоставляет стандартизированный ABI, который позволяет ядрам работать не только с PyTorch, но и с JAX, CuPy и другими фреймворками. Это открывает путь к кросс-платформенным оптимизациям, где один и тот же оптимизированный код может использоваться в разных ML-стеках.
05Агентная разработка ядер: будущее уже здесь
Самое инновационное изменение касается интеграции с AI-агентами. Концепция agentic kernel development предполагает, что AI-агент самостоятельно создает, оптимизирует и тестирует ядра. Для этого инструменты kernel-builder и kernels предоставляют четкую структуру и предсказуемые интерфейсы.
Агенты могут использовать kernel-builder для создания шаблонов проектов, воспроизводимой сборки и бенчмарков. CLI спроектирован так, чтобы быть «агент-оптимизированным»: вывод команд легко парсится, а бэкенд-специфичные навыки (backend-specific skills) помогают агентам обходить особенности разных архитектур (NVIDIA, AMD, Apple Silicon). Агенты могут запускать тесты производительности, сравнивать результаты с базовой линией и итеративно улучшать код, используя обратную связь от системы.
Интеграция с Hugging Face Jobs позволяет агентам запускать бенчмарки на различных конфигурациях оборудования. Это критически важно, так как ядро, быстрое на A100, может быть медленным на H100 или MI300. Агенты могут автоматически тестировать ядро на разных устройствах и вносить коррективы для достижения максимальной производительности.
06Практические инструменты: проверка совместимости и сборка
Для разработчиков, которые хотят начать использовать новые возможности, Hugging Face подготовил ряд практических инструментов. Установка окружения для сборки ядер больше не требует ручного настройки сложных зависимостей. Теперь доступен скрипт установки в один клик, а также руководство по настройке через Terraform для тех, кто предпочитает эфемерные инстансы.
После сборки ядра автоматически генерируется System Card (системная карточка). Это файл метаданных, который становится «лицом» ядра на Hub. Он содержит информацию о том, как использовать ядро, какие интерфейсы оно предоставляет и какие требования к оборудованию имеет. Это упрощает интеграцию, так как пользователь сразу видит документацию.
Важной функцией стала проверка совместимости на стороне клиента. Вы можете использовать метод has_kernel(), чтобы быстро узнать, доступно ли ядро для вашей системы:
from kernels import has_kernel
print(has_kernel("kernels-community/activation", version=""))Если вам нужно больше деталей о том, почему ядро не поддерживается, используйте get_kernel_variants(). Эта функция возвращает список всех возможных вариантов сборки и причину, по которой каждый из них был принят или отклонен для вашей конкретной машины:
from kernels import get_kernel_variants, VariantAccepted
for decision in get_kernel_variants("kernels-community/activation", version=""):
name = decision.variant.variant_str
if isinstance(decision, VariantAccepted):
print(f"{name}: compatible")
else:
print(f"{name}: rejected ({decision.reason})")Пример вывода может показать, что ядро не работает на Windows из-за несовпадения архитектуры CPU или на macOS из-за несовпадения ОС. Это экономит часы отладки.
07Исправление проблем с manylinux и libstdc++
Команда также решила давнюю техническую проблему, связанную с поддержкой manylinux_2_28. Ранее ядра статически линковали libstdc++ для обеспечения совместимости со старыми системами. Однако это приводило к конфликтам глобальной инициализации, когда ядро и PyTorch использовали разные версии библиотеки, что вызывало сегфолты и повреждение данных.
В новом обновлении ядра теперь динамически линкуют libstdc++ и компилируются с использованием официального тулчейна manylinux_2_28. Это решает проблемы с глобальной инициализацией (например, при использовании C++ regex) и обеспечивает стабильную работу даже в сложных средах с несколькими версиями библиотек.
08Что это значит на практике
Для разработчиков AI эти изменения означают переход от «кустарной» сборки оптимизаций к промышленному стандарту. Раньше создание кастомного CUDA-ядра было уделом узких специалистов, которые тратили недели на настройку окружения и борьбу с зависимостями. Теперь, благодаря kernel-builder и поддержке Stable ABI, этот процесс можно автоматизировать или значительно упростить.
Для компаний безопасность становится не просто галочкой, а встроенной функцией. Подпись кода и система доверенных издателей позволяют безопасно использовать оптимизации от сторонних разработчиков, не рискуя инфраструктурой. Это особенно важно в корпоративном секторе, где комплаенс и защита данных критичны.
Наконец, появление агентной разработки ядер открывает путь к демократизации оптимизации. В будущем AI-агенты смогут самостоятельно находить узкие места в ваших моделях, писать под них оптимизированный код, тестировать его на разных GPU и внедрять готовые решения. Hugging Face Kernels становится фундаментом для этой новой парадигмы, где оптимизация производительности становится автоматической, безопасной и доступной каждому.
Источник: Hugging Face ↗