Nvidia RTX Spark: lokalni agenci AI trafiają do komputerów PC

Superchip dla lokalnych agentów

RTX Spark (N1X) łączy GPU Nvidia Blackwell RTX z 20-rdzeniowym procesorem Grace, zaprojektowanym wspólnie z MediaTekiem. Oba układy komunikują się przez NVLink-C2C, co daje do 128 GB pamięci zunifikowanej i moc obliczeniową AI rzędu 1 petaflopsa.

W typowych laptopach ilość pamięci graficznej zależy od klasy GPU. W RTX Spark procesor i karta graficzna współdzielą tę samą przestrzeń pamięci i utrzymują spójność kopii w pamięci podręcznej. Dzięki temu duże modele AI i wymagające zadania twórcze można obsługiwać jednocześnie. Platforma wspiera też dotychczasowy stos GeForce RTX, w tym CUDA, DLSS i TensorRT.

Wyniki i strategia

Według Nvidii RTX Spark osiąga od 2,7 do 4,6 raza wyższą wydajność niż zwykłe układy SoC w uruchamianiu lokalnych agentów, dostrajaniu modeli, renderowaniu 3D, generowaniu obrazów i wideo oraz grach. Jeff Yen, dyrektor ds. marketingu technicznego Nvidii w regionie APAC, ocenił, że żaden SoC dla Windows nie zbliża się do tych wyników pod względem wydajności i efektywności energetycznej.

Yen uznał rok bieżący za punkt zwrotny dla lokalnych agentów, których inteligencja szybko dogania czołowe modele chmurowe. W przeciwieństwie do chatbotów opartych na LLM agent rozumie cel użytkownika, rozumuje i wykonuje działania, więc PC staje się raczej członkiem zespołu niż narzędziem.

Wraz z układem Nvidia zaprezentowała lekkie modele o znacznie mniejszym zapotrzebowaniu na pamięć oraz technologie hybrydowe łączące zasoby lokalne i chmurowe. Celem jest zbudowanie kompletnego ekosystemu AI działającego na urządzeniu.