Nvidia RTX Spark, yerel yapay zekâ ajanlarını kişisel PC'ye taşıyor

Yerel ajanlar için süper çip

RTX Spark (N1X), Nvidia Blackwell RTX GPU ile MediaTek'le ortak tasarlanan 20 çekirdekli Grace CPU'yu tek bir süper çipte birleştiriyor. İki çip, NVLink-C2C ile bağlanıyor ve 128 GB'a kadar birleşik bellek ile 1 petaflops düzeyinde yapay zekâ işlem gücü sunuyor.

Geleneksel dizüstü bilgisayarlarda grafik belleği GPU sınıfına bağlı kalıyor. RTX Spark'ta ise CPU ve GPU aynı bellek alanını paylaşıyor ve önbellek kopyalarını tutarlı tutuyor. Böylece büyük yapay zekâ modelleri ile yüksek performanslı yaratıcı işler aynı bellek alanında eş zamanlı yürütülebiliyor. Platform, CUDA, DLSS ve TensorRT gibi mevcut GeForce RTX yazılım yığınını da destekliyor.

Performans ve strateji

Nvidia'ya göre RTX Spark; yerel ajan çalıştırma, ince ayar, 3D render, görüntü ve video üretimi ile oyunlarda standart sistem üzerinde çip (SoC) çözümlerine kıyasla 2,7 ila 4,6 kat daha yüksek performans sağlıyor. Nvidia Asya-Pasifik teknik pazarlama direktörü Jeff Yen, performans ve güç verimliliğinde buna yaklaşan bir Windows SoC'si bulunmadığını söyledi.

Yen, bu yılı yerel ajanlar için bir dönüm noktası olarak niteledi ve yerel ajanların zekâsının bulut tabanlı öncü modellere hızla yaklaştığını belirtti. Ona göre sohbet botlarından farklı olarak ajanlar kullanıcının hedefini anlıyor, akıl yürütüyor ve eyleme geçiyor; PC de bir araç olmaktan çıkıp ekip arkadaşına dönüşüyor.

Şirket, çipin yanı sıra bellek kullanımını önemli ölçüde azaltan hafif modelleri ve yerel-bulut hibrit teknolojilerini de tanıttı. Strateji, cihaz üzerinde çalışan yapay zekâ ekosistemini tamamlamaya dayanıyor.