Osegi
Софт·1 мин чтения

GPU Taskman показывает, какой процесс съедает видеопамять

GPU Taskman — открытый инструмент вроде htop для видеокарты: он показывает расход VRAM по каждому процессу и детали о запущенных LLM.

A monitoring tool window listing processes alongside the video memory each one uses on a graphics card.
Фото: iX Magazin
SUMODialoediviewergiftdetect

Видеопамять вдруг закончилась, а кто её занял, непонятно. Для таких случаев есть GPU Taskman, открытый диспетчер задач для видеокарты. По описанию heise online, это htop, только для GPU.

Программа показывает, сколько видеопамяти (VRAM) занимает каждый процесс. Сразу видно, виноват браузер, игра или что-то ещё. Вторая функция: сведения о запущенных больших языковых моделях (LLM). Если вы гоняете ИИ-модель на своём компьютере, можно увидеть, что именно работает на карте.

Для чего нужен GPU Taskman?

htop — известная в мире Linux утилита, которая в терминале выводит список процессов. GPU Taskman делает то же для видеокарты: вместо догадок есть список процессов и их доля VRAM. Особенно полезно тем, кто запускает модели локально, ведь видеопамять там чаще всего главное ограничение.

Проект открытый, так что код может посмотреть любой желающий. Технические подробности, например поддерживаемые системы и видеокарты, в доступных материалах не указаны.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:gpu taskmanvramopen sourcellmhtopgraphics card

Ещё за этот день

Показать все →

Ещё в рубрике: Софт

Показать все →