Osegi
Oprogramowanie·1 min czytania

GPU Taskman pokazuje, który proces zjada pamięć VRAM karty

GPU Taskman to otwartoźródłowe narzędzie w stylu htop dla karty graficznej: pokazuje zużycie VRAM przez każdy proces i szczegóły o działających LLM-ach.

A monitoring tool window listing processes alongside the video memory each one uses on a graphics card.
Zdjęcie: iX Magazin
SUMODialoediviewergiftdetect

Karta graficzna nagle ma pełną pamięć, a ty nie masz pojęcia, kto ją zajął. Do takich sytuacji powstał GPU Taskman, otwartoźródłowy menedżer zadań dla GPU, który heise online porównuje do htopa, tyle że dla karty graficznej.

Narzędzie pokazuje, ile pamięci graficznej (VRAM) zajmuje każdy proces. Dzięki temu od razu widać, czy to przeglądarka, gra, czy program do obliczeń zjada zasoby. Drugi element to dane o uruchomionych dużych modelach językowych (LLM), czyli o tym, co dokładnie działa na karcie, gdy lokalnie odpala się model AI.

Do czego służy GPU Taskman?

htop to znany w świecie Linuksa program do podglądu procesów w terminalu. GPU Taskman ma robić podobną robotę dla GPU: zamiast zgadywać, użytkownik widzi listę procesów i ich udział w VRAM. Szczególnie przydaje się to osobom, które uruchamiają modele AI na własnym sprzęcie, bo pamięć graficzna bywa tam głównym wąskim gardłem.

Projekt jest otwarty, więc każdy może zajrzeć do kodu. Szczegółów technicznych, takich jak obsługiwane systemy czy karty, w dostępnym materiale nie podano.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:gpu taskmanvramopen sourcellmhtopgraphics card

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: Oprogramowanie

Zobacz wszystkie →