Проблема невидимого потребления VRAM
Разработчики и энтузиасты ПК часто сталкиваются с проблемой: видеокарта загружена, но непонятно, какой именно процесс потребляет ресурсы. Microsoft VP Стивен Хансельман (Scott Hanselman) решил эту проблему, выпустив на GitHub проект gputaskman. Это кроссплатформенный инструмент (Windows, Linux, macOS), который работает как специализированный диспетчер задач, фокусируясь исключительно на GPU.
Утилита позволяет не только видеть общую загрузку, но и детализировать использование VRAM по каждому процессу, активным рантаймам и, что особенно важно для современных пользователей, — специфические метрики для задач искусственного интеллекта и больших языковых моделей (LLM).
Детализация AI/LLM нагрузок
Главное преимущество gputaskman — глубина анализа при работе с нейросетями. При выборе процесса, связанного с локальным запуском LLM, инструмент показывает не просто объем памяти, а структуру его распределения. Например, для процесса llama-server.exe утилита разбивает потребление на:
- Веса модели (weights);
- Кэш ключей и значений (KV cache);
- Количество параметров;
- Имя конкретной модели (например, Qwen3-0.6B).
Это критически важно для оптимизации локальных AI-инференсов, так как позволяет точно понять, где именно «съедается» видеопамять.
Технические характеристики и доступность
Инструмент распространяется под перmissive лицензией MIT, что делает его доступным для сообщества. На момент публикации доступна версия v0.3.0. Утилита предоставляет интерфейс, похожий на терминал, с живыми графиками загрузки GPU, температуры и использования VRAM.
| Параметр | Значение / Описание |
|---|---|
| Название проекта | gputaskman |
| Автор | Стивен Хансельман (Microsoft) |
| Лицензия | MIT (Open Source) |
| Платформы | Windows, Linux, macOS |
| Актуальная версия | v0.3.0 |
| Ключевая функция | Детальный разбор VRAM, включая KV cache для LLM |
Почему это важно?
С ростом популярности локальных AI-ассистентов и генеративных моделей, точный контроль над видеопамятью становится необходимостью. gputaskman закрывает нишу между стандартным диспетчером задач Windows и сложными профессиональными утилитами мониторинга. Хансельман также намекнул, что подобные функции мониторинга GPU могут быть интегрированы в Windows на системном уровне в будущем, что сделает такие инструменты еще более востребованными.
Источник: Tom's Hardware ↗