CUDA対応のWindowsアプリをAMD製GPU上で実行できる「CUDA for AMD on Windows」

「CUDA for AMD on Windows」は名前の通り、AMD製GPU上でCUDA対応のWindowsアプリケーションを実行することを目的としたプロジェクトです。

Speedstu/CUDA-for-AMD-Windows: Run CUDA-targeted Windows applications on AMD GPUs with ZLUDA + ROCm/HIP.
https://github.com/Speedstu/CUDA-for-AMD-Windows

CUDA for AMD on Windowsは、Windows環境下のAMD製GPU上でCUDAアプリケーションを実行するための互換レイヤーとしてのZLUDAと、AMDのROCm/HIPスタックを組み合わせることにより、CUDAアプリケーションを実行するための再現性のあるWindows CUDA互換環境を構築することを目指しています。

CUDA-targeted Windows application
              |
            ZLUDA
              |
 cuBLAS / cuSPARSE / cuFFT compatibility
              |
 rocBLAS / hipBLASLt / rocSPARSE / HIP
              |
           AMD GPU

記事作成時点での動作検証対象は「AMD Radeon RX 9060 XT」であり、その他のAMD製GPUは互換候補という位置付けとなっています。検証に使用されたソフトウェアは以下の通りです。

・ZLUDA v6-preview.69(公式リリース)
・AMD HIP SDK 6.4
・LibTorch 2.3.0 + cu118
・nvcuda・cuBLAS・cuBLASLt・cuSPARSE・cuFFT(cuda_checkに合格)

記事作成時点での動作検証状況および互換性状況は以下の通りです。

GPU	ターゲットID	状態	注記
Radeon RX 9060 XT	gfx1200	検証済み	プロジェクト統合作業完了
Radeon RX 9070 XT	gfx1201	外部検証済み	参照
Radeon 890M	gfx1150	コミュニティによる部分的サポート	HIP 7.2/GEMMは動作 conv2dのハングやSDPAの異常出力の報告あり
その他のAMD製GPU	(アーキテクチャ依存)	未確認

CUDA for AMD on Windowsをインストールするには、以下の手順を行う必要があります。

・AMD前提条件のインストール：最新のAMD GPUドライバーとHIPライブラリ(適切なバージョンはGPUアーキテクチャに依存)を含むWindows用の適切なAMD HIP SDK
・インストーラーの実行：公式GitHubからリポジトリをクローンし「install.ps1」スクリプトを実行

なお、記事作成時点の制限事項は以下の通りです。

・完全に検証済みのプロジェクトリファレンスとして認められているのはRX 9060 XT/gfx1200のみ
・ZLUDAは完全なCUDA実装ではない
・cuda_checkの結果が「合格」であっても正しさは保証されない
・WindowsではROCmエコシステム全体のごく一部の機能しか公開されていない
・cuDNN/MIOpenは検証済みの安定版HIP SDKパスでは利用できない
・NCCL・TensorRT・サポート対象外PTX・一部のカスタムCUDA拡張機能は動作しない可能性がある

CUDA for AMD on WindowsプロジェクトはAMD製GPUの活用範囲を広げCUDAエコシステムとの連携を強化する重要な取り組みであり、今後の展開に注目する必要がありそうです。