Osegi
소프트웨어·2 분 소요

Windows RDMA over USB4, 미니 PC 묶어 대형 AI 구동

Microsoft가 USB4 케이블만으로 여러 미니 PC의 메모리를 합치는 Windows 기능을 공개했습니다. 한 대로는 못 돌리는 2350억 파라미터 AI가 돌아갑니다.

Three small mini PCs on a desk connected to each other with USB4 cables, running a large AI model together.
이미지: Frandroid

미니 PC 세 대를 USB4 케이블로 서로 연결하면 2350억 파라미터 AI 모델 Qwen3-235B가 마치 한 대처럼 돌아갑니다. 압축해도 각 PC의 128GB 메모리를 넘기 때문에 혼자서는 불러올 수 없는 모델입니다. 지금까지는 데이터센터용 네트워크 카드가 필요했지만, Microsoft에 따르면 이제 Windows와 USB4 케이블이면 됩니다.

Microsoft는 11월 19일 USB 블로그에서 Windows RDMA over USB4 개발자 프리뷰를 공개했습니다. RDMA(원격 직접 메모리 접근)는 일반적인 네트워크 처리 과정을 거치지 않고 다른 기기의 메모리를 직접 읽는 기술입니다. 작은 메시지 왕복 시간은 28마이크로초로, 같은 케이블의 일반 Ethernet보다 약 4배 짧다고 합니다.

어떤 기기로 시험했나

AMD는 128GB Ryzen AI Max+ 395(GMKtec EVO-X2의 Strix Halo) 세 대로 Qwen3-235B를 돌려 초당 18.5~21.98토큰을 얻었습니다. Intel은 64GB Core Ultra Series 3를 세 대, 네 대로 늘려 GPT-OSS-120B를 실행했고 초당 49.4, 54.2토큰이 나왔습니다.

Nvidia DGX Spark는 200Gb/s ConnectX-7을 내장해 두 대만 연결해도 최대 4050억 파라미터 모델을 돌립니다. USB4는 40 또는 80Gb/s로 40Gb/s 기준 대역폭이 5분의 1이지만 따로 살 것이 없습니다. 텍스트 생성 속도를 좌우하는 지연 시간은 두 속도에서 같다고 Microsoft는 밝혔습니다.

다른 브랜드 PC도 연결할 수 있나

아직 알 수 없습니다. Microsoft가 검증한 것은 동일한 구성의 클러스터뿐이고, 모든 PC에 같은 Windows와 드라이버 버전이 필요하며 Arm은 언급하지 않았습니다. 각 PC가 나머지 전부와 직접 연결돼야 하므로 USB4 포트가 두 개인 EVO-X2는 세 대, 네 개인 EVO-X5 Pro는 다섯 대까지 가능합니다.

언제 쓸 수 있나

공개 Windows 빌드에는 아직 없으며 Microsoft는 곧 Insider 버전을 내놓겠다고 했습니다. NetworkDirect 모듈과 수정된 llama.cpp는 GitHub에 올라와 있습니다. 활성화하려면 Secure Boot를 꺼야 합니다. Apple은 macOS 26.2부터 Mac 간 Thunderbolt 5 RDMA를 지원합니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:windowsmicrosoftusb4rdmamini pclocal ai

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: 소프트웨어

전체 보기 →