AMD ROCm

ROCm ist AMDs Antwort auf NVIDIA CUDA. Es umfasst Software, mit der Programme AMD-Grafikprozessoren für allgemeine Berechnungen nutzen können: Treiber, Compilerwerkzeuge, Mathematik- und Kommunikationsbibliotheken sowie Werkzeuge zum Debugging und Profiling. Ein großer Teil ist Open Source.

Für KI ist vor allem die Unterstützung von Frameworks wichtig. PyTorch, TensorFlow, JAX und andere laufen auf ROCm; Inferenzwerkzeuge wie vLLM und viele Modellbibliotheken bieten AMD-Versionen. Entwickler können CUDA-Code mit HIP portieren, einer CUDA ähnlichen Programmierschicht. Große Cloud- und Supercomputerinstallationen nutzen AMD-Instinct-Beschleuniger mit ROCm.

ROCm ist kostenlos. Historisch war es weniger ausgereift als CUDA und die Ökosystemunterstützung begrenzter; Kompatibilität mit konkreten GPUs und Bibliotheken muss daher geprüft werden. Der Abstand wird kleiner. Alternativen sind NVIDIA CUDA, Intel oneAPI, Apple Metal für Mac und Vulkan-basiertes Computing. ROCm eignet sich für Entwickler und Organisationen mit AMD-Hardware für KI.