Osegi
ソフトウェア·2 分で読めます

Windows RDMA over USB4、ミニPC連結で巨大AIを動かす

MicrosoftがWindows向けに、USB4ケーブルだけで複数のミニPCのメモリを合算する機能を公開。1台では載らない2350億パラメータのAIが動きます。

Three small mini PCs on a desk connected to each other with USB4 cables, running a large AI model together.
画像: Frandroid

ミニPCを3台並べ、USB4ケーブルでつなぐだけで、2350億パラメータのAIモデル「Qwen3-235B」が1台のマシンのように動く。圧縮しても各機の128GBを超えるため、単体では読み込めません。これまではデータセンター用ネットワークカードが必要でしたが、Microsoftによれば、WindowsとUSB4ケーブルで足りるようになります。

Microsoftは11月19日、USBブログでWindows RDMA over USB4の開発者向けプレビューを公開しました。RDMA(リモートダイレクトメモリアクセス)は、通常のネットワーク処理を介さず、ほかのマシンのメモリを直接読む技術です。小さなメッセージの往復は28マイクロ秒で、同じケーブルでの通常のEthernetより約4分の1だといいます。

どんなマシンで試したのか

AMDは128GBのRyzen AI Max+ 395(GMKtec EVO-X2のStrix Halo)3台でQwen3-235Bを動かし、毎秒18.5〜21.98トークンでした。Intelは64GBのCore Ultra Series 3を3台、4台と増やしてGPT-OSS-120Bを実行し、毎秒49.4、54.2トークンでした。

NvidiaのDGX Sparkは200Gb/sのConnectX-7を搭載し、2台で最大4050億パラメータのモデルを動かせます。USB4は40または80Gb/sで、40Gb/sなら5分の1の帯域ですが、追加購入は不要です。文章生成のテンポを左右する遅延は、どちらの速度でも同じだとMicrosoftは説明しています。

異なるメーカーのPCもつなげる?

まだ分かりません。Microsoftが検証したのは同一構成のクラスターだけで、Windowsとドライバーのバージョンも揃える必要があり、Armには触れていません。各PCは他のすべてと直結する必要があるため、USB4ポート2つのEVO-X2は3台、4ポートのEVO-X5 Proは5台までです。

いつ使える?

公開版Windowsにはまだ入っておらず、Insider版が近く提供される予定です。NetworkDirectモジュールと改変版llama.cppはGitHubにあります。有効化にはSecure Bootの無効化が必要です。AppleはmacOS 26.2から、MacどうしでThunderbolt 5経由のRDMAを提供しています。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:windowsmicrosoftusb4rdmamini pclocal ai

同じ日のニュース

すべて見る →

関連カテゴリ: ソフトウェア

すべて見る →