Windows PCを複数台接続して1個のAI処理クラスターとして扱う機能「RDMA over USB4」をMicrosoftが発表、USBケーブルのみで接続可能で専用機材不要
MicrosoftがWindows搭載PC同士をUSB4ケーブルで相互接続する機能「RDMA over USB4」を発表しました。PC同士を相互接続することで、メモリやGPU計算能力を共有して大型のAIモデルを高速実行することができます。
Introducing RDMA over USB4® on Windows: run larger local AI models across PCs | Microsoft Community Hub
https://techcommunity.microsoft.com/blog/microsoftusbblog/introducing-rdma-over-usb4%C2%AE-on-windows-run-larger-local-ai-models-across-pcs/4574602
RDMA over USB4を使用するには「USB4ポートを搭載したWindows PC」と「USB4ケーブル」が必要です。USB4ポートの必要数は「PC2台なら各PCに1個」「PC3台なら各PCに2個」……といったように増加します。従来のRDMAシステムではネットワークアダプターも用意する必要がありましたが、RDMA over USB4はUSB4ケーブルのみで相互接続できるのが特徴です。
同様にUSB4ケーブルのみで相互接続できるシステムとして「Ethernet over USB4」が存在しますが、RDMA over USB4はEthernet over USB4より高速な通信が可能。16KiBのデータをやり取りする場合のレイテンシはEthernet over USB4が194マイクロ秒なのに対して、RDMA over USB4が50マイクロ秒で3.9倍高速です。なお、RDMA over USB4は40GbpsのUSB4ポートでも利用可能ですが、80GbpsのUSB4ポートの方が長大コンテキストのワークフローで有利に働くそうです。
RDMA over USB4は開発者向けのプレビュー版を準備中の段階です。MicrosoftはAMD Ryzen AI Maxシリーズとインテル Core Ultra Series 3を搭載したPCでテストを実施しており、他のプロセッサーを搭載したPCでも動作する可能性があります。
AMD Ryzen AI Max, Radeon 8060Sと128GBのメモリを搭載したPCを40GbpsのUSB4ポートで3台接続した場合、Qwen3-235B-A22Bの4ビット量子化版(Q4_K_M)をデコード速度21.98トークン/秒、プリフィル117.98トークン/秒で実行できたとのこと。
また、Intel Core Ultra Series 3と64GBのメモリを搭載したPCを相互接続してgpt-oss-120bを実行した場合、以下のような高速処理が可能でした。
| PC | コンテキスト超 | 出力開始までの時間 | デコード速度 |
|---|---|---|---|
| 3台 | 1Kトークン | 1.1秒 | 49.4トークン/秒 |
| 4台 | 2Kトークン | 1.2秒 | 54.2トークン/秒 |
| 3台 | 1Kトークン | 2.9秒 | 49.4トークン/秒 |
| 4台 | 2Kトークン | 3.2秒 | 51.7トークン/秒 |
RDMA over USB4はプレビュー版のWindowsで近日中に利用可能になる予定。プレビュー版を使用するにはWindows Insider ProgramのExperimentalチャネルに参加する必要があります。また、RDMA over USB4のプロバイダーとサンプルコードは以下のリンク先で公開されています。
GitHub - microsoft/windows-usb4-rdma: Implementation of a NetworkDirect SPI v2 provider and supporting toolset to enable RDMA verbs over USB4 fabric · GitHub
https://github.com/microsoft/windows-usb4-rdma/
GitHub - microsoft/llama.cpp-nd-usb4: LLM inference in C/C++ on a windows cluster, using NetworkDirect · GitHub
https://github.com/microsoft/llama.cpp-nd-usb4
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.

