SK Telecom, Nvidia und Rebellions bauen GPU-NPU-System für KI

Inferenz auf zwei Chiparten verteilt

Das System nutzt sogenannte disaggregierte Inferenz. Nvidia-GPUs übernehmen die rechenintensive Prefill-Phase, in der die Anfrage des Nutzers analysiert wird. Rebellions-NPUs erledigen die Decode-Phase, in der die Antwort Schritt für Schritt entsteht und es vor allem auf schnellen Speicherzugriff ankommt. Wenn jede Phase auf passender Hardware läuft, sollen Tempo und Energieeffizienz steigen – wichtig, da agentische KI die Zahl der Inferenzanfragen erhöht.

SK-Telecom-CTO Jung Seok-geun nannte als Ziel, dass Korea Token weltweit am günstigsten erzeugt und KI im Land breit genutzt wird. Er sprach von „souveränen Token“: SK Telecom betreibt als Spezialanbieter GPU-NPU-Rechenzentren, sodass Behörden, Unternehmen und Dienstanbieter Token per API beziehen, ohne sich um Hardware zu kümmern. Kunden zu bitten, koreanische NPUs zu kaufen und eigene Rechenzentren zu betreiben, wäre laut Jung eine Eintrittshürde.

Nächste Schritte

SK Telecom will das System in eigenen Rechenzentren auf Leistung und Stabilität prüfen und den praktischen Einsatz sowie die Kommerzialisierung untersuchen. Das eigene Modell A.X K2 und Bürgerdienste wie „Modu-ui AI“ sollen angebunden werden, um souveräne KI vom Rechenzentrum bis zum Dienst anzubieten. Die Partner verweisen auf die Förderpolitik des Wissenschaftsministeriums für souveräne KI und heimische KI-Chips.

Laut Jung wurde bereits ein Umfeld mit Fördergeldern und Fachkräften für Firmen wie Rebellions geschaffen, doch der Verkauf an gewöhnliche Unternehmen und der Export bleiben schwierig. Nötig seien bedeutende Referenzprojekte im Inland und Kundenunterstützung. Ashish Karandikar von Nvidia sagte, NVLink Fusion ermögliche es, koreanische ASICs mit Nvidias AI-Factory-Plattform zu verbinden.