Проблема: барьер входа в Ascend C
Оптимизация операторов Ascend C критична для производительности NPU, но требует глубокого понимания архитектуры. В отличие от CUDA, где LLM уже показывают результаты, модель программирования Ascend C уникальна. Разработчики сталкиваются с «дефицитом знаний платформы» (platform knowledge deficit), что делает ручное написание высокопроизводительного кода сложной и ресурсоемкой задачей.
Решение: Knowledge-Augmented Agentic Evolution
Команда авторов (Junhao Qiu, Zidong Wang и др.) предложила AgenticCANN — систему, которая объединяет два ключевых механизма:
- Knowledge-orchestrated generation: Внедрение структурированных, многоуровневых знаний о домене на всех этапах разработки. Это позволяет LLM понимать архитектуру NPU до начала генерации кода.
- Stage-adaptive agentic evolution: Адаптивная стратегия эволюции, которая динамически меняет режим взаимодействия с LLM. На этапе поиска кандидатов используется высокая исследовательская активность (exploration), а на этапе оптимизации — высокая конвергенция (convergence) для достижения пиковой производительности.
Результаты на Huawei Ascend 910B
Эксперименты проводились на шести операторах, охватывающих пять категорий паттернов. Метрика «feasibility» (способность сгенерировать рабочий, оптимизированный код) показала следующие результаты:
Тип оператора Feasibility (%) Примечание Elementwise 90–100% Высокая надежность генерации Normalization 90–100% Высокая надежность генерации Fusion 56% Сложные комбинированные операции Ключевым достижением стало ускорение инференса модели Pangu (1B параметров) на 6.65x по сравнению с базовыми реализациями. Анализ показал, что внедрение знаний монотонно улучшает качество: для elementwise-операторов feasibility выросла с 57% до 86%, что доказывает универсальность подхода, а не его привязку к конкретным операциям.
Почему это важно
AgenticCANN демонстрирует, что LLM могут преодолеть порог входа в специфичные аппаратные платформы, такие как Huawei Ascend. Автоматизация создания низкоуровневых операторов снижает зависимость от узких специалистов и ускоряет разработку AI-инфраструктуры в условиях ограниченных корпусов данных (low-corpus NPU environments).
Источник: arXiv cs.AI ↗