ROCmは、NVIDIAのCUDAに対するAMDの答えです。プログラムがAMDのグラフィックスプロセッサを汎用計算に使うためのソフトウェア群で、ドライバ、コンパイラのツールチェーン、数学と通信のライブラリ、デバッグとプロファイリングのツールを含みます。その多くはオープンソースです。
AIの作業で中心になるのは、フレームワークへの対応です。PyTorch、TensorFlow、JAXなどがROCm上で動き、vLLMのような推論ツールや多くのモデルライブラリにAMD向けのビルドがあります。開発者は、CUDAに似たプログラミング層であるHIPを使ってCUDAのコードを移植できます。大規模なクラウドとスーパーコンピュータの導入では、AMD InstinctアクセラレータとROCmが使われています。
ROCmは無料です。成熟度とエコシステムの支援では、これまでCUDAに後れを取ってきたため、特定のGPUやライブラリとの互換性はばらつき、確認が必要ですが、差は縮まっています。代替にはNVIDIA CUDA、Intel oneAPI、Mac向けのApple Metal、Vulkanベースの計算があります。ROCmは、AIにAMDのハードウェアを使う開発者と組織に向いています。
