Инженер Microsoft создал бесплатный "Диспетчер задач" для видеокарт — он показывает, куда исчезает VRAM
Инженер Microsoft Скотт Хансельман выпустил бесплатную утилиту gputaskman, которую можно описать как расширенный «Диспетчер задач» для видеокарты. Программа позволяет увидеть не только общий объём занятой видеопамяти, но и разобраться, какие именно процессы и задачи используют ресурсы GPU. По словам разработчика, стандартный Диспетчер задач Windows способен показать, что, например, занято 15 ГБ памяти GPU, но практически не объясняет, на что именно они расходуются.
gputaskman пытается ответить на этот вопрос, разделяя нагрузку между браузерами, играми, системным композитором, локальными ИИ-моделями и другими приложениями. Особое внимание уделено локальному искусственному интеллекту. Утилита умеет обнаруживать некоторые запущенные LLM и показывать сведения об используемых ими весах моделей, KV-cache и других буферах. Поддерживается распознавание ряда популярных инструментов, включая Ollama, LM Studio, llama.cpp и некоторые другие среды. Помимо видеопамяти программа отображает загрузку GPU отдельными процессами, использование системной памяти видеокартой, температуру, частоты, энергопотребление и активность различных блоков GPU — набор доступных показателей зависит от операционной системы и конкретного оборудования. На Windows поддерживаются видеокарты NVIDIA и AMD. Также существуют версии для Linux и WSL, хотя набор доступной информации там отличается. На компьютерах Apple Silicon программа тоже может работать, однако из-за общей памяти CPU и GPU принцип мониторинга отличается от классической VRAM на дискретных видеокартах. gputaskman представляет собой терминальное приложение с интерфейсом, напоминающим htop. Пользователь может сортировать процессы по объёму занятой видеопамяти или загрузке GPU, переключаться между графиками различных показателей и получать подробную информацию по выбранному процессу. Разработчик отдельно предупреждает, что проект пока находится на ранней экспериментальной стадии. Некоторые данные программа получает непосредственно от драйвера и операционной системы, тогда как определение конкретных моделей ИИ и распределение памяти между их компонентами в некоторых случаях являются оценочными. Утилита не предназначена для извлечения содержимого видеопамяти и не показывает, например, отдельные текстуры конкретной игры. Её задача — дать пользователю более понятное представление о том, какие программы и вычислительные нагрузки занимают ресурсы GPU. gputaskman распространяется бесплатно с открытым исходным кодом. Для Windows уже доступны готовые переносимые сборки, которым не требуется установка Python, CUDA Toolkit или дополнительных моделей.
Источник: playground.ru — www.playground.ru/misc/news/inzhener_microsoft_sozdal_besplatnyj_dispetcher_zadach_dlya_videokart_on_pokazyvaet_kuda_ischezaet_vram-1888594
