SK Telecom, Nvidia y Rebellions crean un sistema GPU-NPU para IA

Inferencia repartida entre dos chips

El sistema emplea inferencia desagregada. Las GPU de Nvidia se encargan del prefill, la fase que analiza la pregunta del usuario y exige mucho cálculo. Los NPU de Rebellions asumen el decode, que genera la respuesta paso a paso y depende más de la rapidez para leer datos de la memoria. Asignar cada etapa al chip adecuado busca mejorar la velocidad y la eficiencia energética, en un momento en que la IA agéntica multiplica las solicitudes de inferencia.

Jung Seok-geun, director de tecnología de SK Telecom, afirmó que el objetivo es que Corea produzca tokens más baratos que nadie para que la IA se use de forma masiva. Habló de «tokens soberanos»: la operadora gestionaría centros de datos con GPU y NPU y ofrecería acceso por API a administraciones, empresas y servicios al público, sin que se preocupen por el hardware. Pedir a los clientes que compren NPU coreanos y monten sus propios centros sería, a su juicio, una barrera de entrada.

Próximos pasos

SK Telecom desplegará el sistema en sus centros de datos para comprobar rendimiento y estabilidad, y evaluará su uso real y su comercialización. Conectará su modelo A.X K2 y servicios como «IA de todos» para ofrecer IA soberana de extremo a extremo. Los socios alinean el proyecto con la política del Ministerio de Ciencia sobre IA soberana y chips nacionales.

Según Jung, ya existe financiación y talento para empresas como Rebellions, pero vender a empresas generales o exportar sigue siendo difícil; hacen falta referencias locales y apoyo a los clientes. Ashish Karandikar, de Nvidia, señaló que NVLink Fusion permite combinar ASIC coreanos con su plataforma de fábricas de IA.