SK Telecom, Nvidia et Rebellions bâtissent un système GPU-NPU

Une inférence répartie entre deux types de puces

Le système repose sur une inférence dite désagrégée. Les GPU Nvidia prennent en charge le préremplissage (prefill), phase qui analyse la question de l'utilisateur et exige beaucoup de calcul. Les NPU de Rebellions gèrent le décodage, qui produit la réponse pas à pas et dépend surtout de la rapidité d'accès à la mémoire. Associer chaque étape à la puce adaptée doit améliorer la vitesse et l'efficacité énergétique, alors que l'IA agentique multiplie les requêtes d'inférence.

Le directeur technique de SK Telecom, Jung Seok-geun, affirme vouloir que la Corée produise des jetons au prix le plus bas du monde afin de généraliser l'usage de l'IA. Il parle de « jetons souverains » : l'opérateur exploiterait des centres de données GPU-NPU et fournirait l'accès par API aux administrations, entreprises et services grand public, sans souci matériel. Demander aux clients d'acheter des NPU coréens et de bâtir leurs propres centres serait, selon lui, un obstacle.

Prochaines étapes

SK Telecom compte déployer le système dans ses centres de données pour valider performances et stabilité, puis étudier l'usage réel et la commercialisation. Son modèle A.X K2 et des services grand public comme « Modu-ui AI » seront reliés à cette infrastructure. Les partenaires s'inscrivent dans la politique du ministère des Sciences en faveur de l'IA souveraine et des puces nationales.

Selon Jung, financements et talents sont déjà réunis pour des sociétés comme Rebellions, mais vendre à des entreprises ordinaires ou exporter reste difficile ; des références locales et un accompagnement des clients s'imposent. Ashish Karandikar, de Nvidia, estime que NVLink Fusion permet d'associer des ASIC coréens à la plateforme d'usines d'IA de Nvidia.