하드웨어2026. 11. 9. 오전 8:41 UTC·1 분 소요

SK텔레콤, 엔비디아·리벨리온과 GPU·NPU 통합 시스템 개발

SK텔레콤이 엔비디아, 리벨리온과 GPU·NPU를 결합한 랙 단위 AI 시스템 개발 협약을 맺었습니다. 한국을 세계에서 가장 싸게 토큰을 만드는 곳으로 만들겠다는 구상입니다.

Server racks in an AI data center combining Nvidia GPUs and Rebellions NPUs for inference workloads. — 이미지: zdnet.co.kr

SK텔레콤은 9일 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 GPU·NPU 통합 시스템 개발 업무협약을 체결했습니다. 서울 코엑스에서 열린 엔비디아 AI 데이에서 발표됐습니다.

정석근 SK텔레콤 CTO 겸 AI CIC장은 "한국이 전 세계에서 가장 싸게 토큰을 만들 수 있고, 그걸 통해 우리나라에서 AI를 정말 많이 쓰도록 하겠다"고 밝혔습니다. 국내 인프라의 규모의 경제로 토큰 생산 비용을 낮추고 기업과 국민의 AI 이용을 넓히겠다는 구상입니다.

프리필은 GPU, 디코드는 NPU

3사는 엔비디아의 NV링크 퓨전을 활용해 리벨리온이 개발 중인 NPU '리벨 R200'을 엔비디아 플랫폼에 연결합니다. NV링크 퓨전은 GPU끼리 데이터를 빠르게 주고받는 NV링크를 다른 기업의 AI 반도체(XPU)에도 쓸 수 있게 확장한 기술입니다. 여기에 엔비디아의 서버 랙 표준 설계 규격 MGX를 적용해 랙 단위 통합 시스템을 개발합니다.

시스템에는 추론 과정을 서로 다른 반도체에 나누는 '분리형 추론'이 적용됩니다. 질문을 분석하는 프리필 단계는 계산량이 많아 엔비디아 GPU가, 답변을 순차 생성하는 디코드 단계는 메모리에서 데이터를 빠르게 불러오는 능력이 중요해 리벨리온 NPU가 맡습니다. 처리 속도와 전력 효율을 함께 높이려는 시도입니다.

'소버린 토큰' 전략

정 CIC장은 SK텔레콤이 전문 사업자로서 GPU·NPU 결합 데이터센터를 운영하며 고객에게 AI 인프라를 제공하겠다고 설명했습니다. 정부와 공공기관, 민간 기업이 하드웨어 걱정 없이 API로 토큰을 쓰게 한다는 것입니다. 독자 AI 모델 A.X K2와 '모두의 AI' 같은 서비스도 연결해 풀스택 소버린 AI를 제공할 방침입니다.

SK텔레콤은 AIDC 구축·운영 경험을 바탕으로 통합 시스템을 데이터센터에 도입해 성능과 안정성을 실증하고, 실제 서비스 활용과 상용화 가능성도 검토할 계획입니다.