Интеграция в ROCm и поддержка XDNA2
Ключевым событием стало перенесение проекта FastFlowLM под эгиду AMD ROCm. Теперь репозиторий и разработка ведутся в рамках организации ROCm на GitHub. Это шаг к унификации программного стека AMD для больших языковых моделей (LLM) на процессорах Ryzen AI (NPU) и видеокартах Radeon. Лицензия остается открытой — MIT. Поддерживаются все NPU архитектуры AMD XDNA2 и новее.
Новые возможности FastFlowLM 1.0
Версия 1.0 приносит не только структурные изменения, но и функциональные обновления. Разработчики добавили поддержку модели SmolVLA (Vision-Language-Action), что расширяет сценарии использования NPU за пределы текстовых LLM. Также улучшен инструмент flm bench для более точного тестирования производительности.
Практическая польза для Linux-пользователей
Ранее, с релизом версии 0.9.35, AMD сделала Ryzen AI NPU полезными в Linux для запуска LLM. С тех пор экосистема значительно окрепла благодаря интеграции с Lemonade и другим инструментам. FastFlowLM 1.0 делает работу с NPU на Linux по-настоящему практичной для разработчиков и энтузиастов.
Доступность и платформы
Исходный код и бинарные файлы доступны для скачивания на GitHub. Поддерживаются следующие платформы:
- Ubuntu и Debian (предрасcompiled бинарники)
- Linux x86_64 (универсальный бинарник)
- Windows
Сводка изменений в FastFlowLM 1.0
| Категория | Детали |
|---|---|
| Версия | 1.0 |
| Экосистема | AMD ROCm (GitHub org) |
| Лицензия | MIT |
| Поддержка NPU | AMD XDNA2 и новее |
| Новая модель | SmolVLA (Vision-Language-Action) |
| Оптимизации | Улучшения в flm bench, исправление багов |
Источник: Phoronix ↗