Osegi
Yazılım·1 dk okuma

GPU Taskman, ekran kartı belleğini hangi işlemin yediğini gösteriyor

GPU Taskman, ekran kartı için htop gibi çalışan açık kaynaklı bir araç: işlem başına VRAM kullanımını ve çalışan LLM'lerin ayrıntılarını gösteriyor.

A monitoring tool window listing processes alongside the video memory each one uses on a graphics card.
Görsel: iX Magazin
SUMODialoediviewergiftdetect

Ekran kartının belleği bir anda doluyor ve kimin kapladığı belli değil. GPU Taskman tam bu soruya cevap veriyor. heise online'ın anlatımına göre açık kaynaklı araç, ekran kartı için htop gibi çalışıyor.

Uygulama, her işlemin ne kadar grafik belleği (VRAM) kullandığını gösteriyor. Böylece belleği tarayıcının mı, bir oyunun mu yoksa başka bir programın mı doldurduğu hemen anlaşılıyor. İkinci özellik, çalışan büyük dil modelleri (LLM) hakkında ayrıntı vermesi. Yani bilgisayarında yapay zeka modeli çalıştıran biri, kartın başında tam olarak neyin koştuğunu görebiliyor.

GPU Taskman ne işe yarıyor?

htop, Linux dünyasında terminalde çalışan işlemleri listeleyen bilinen bir araç. GPU Taskman aynı mantığı ekran kartına taşıyor: tahmin yürütmek yerine işlem listesi ve VRAM payları ekranda duruyor. Yerel yapay zeka modelleri çalıştıranlar için bu özellikle işe yarar, çünkü grafik belleği çoğu zaman en dar boğaz oluyor.

Proje açık kaynak olduğu için kodu herkes inceleyebilir. Desteklenen işletim sistemleri ya da kartlar gibi teknik ayrıntılar elimizdeki bilgide yer almıyor.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:gpu taskmanvramopen sourcellmhtopgraphics card

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yazılım

Tümünü gör →