NVIDIA L4
Energiesparende Ada-Lovelace-Inferenz-GPU für Cloud-Server
~$2500
Rechenzentrum
24GB
GDDR6
300
GB/s Bandbreite
30.3
FP32 TFLOPS
72W
TDP
7680
Kerne
4nm
Fertigungsprozess
// über NVIDIA L4
Energiesparende Ada-Lovelace-Inferenz-GPU für Cloud-Server
// ähnliche Hardware in Rechenzentrum
NVIDIA B200
NVIDIA-Blackwell-Flaggschiff-GPU für Rechenzentren zum Training wegweisender Modelle
NVIDIA · Rechenzentrum · k. A.
NVIDIA H100 SXM
GPU für Rechenzentren mit Hopper-Architektur und groß angelegtem KI-Training
NVIDIA · Rechenzentrum · ~$30000
NVIDIA H200
Hopper-Refresh mit großem Speicher für die Inferenz großer Modelle
NVIDIA · Rechenzentrum · ~$32000
AMD Instinct MI300X
AMDs Flaggschiff-Beschleuniger für Rechenzentren und das Training großer KI-Modelle
AMD · Rechenzentrum · ~$15000
AMD Instinct MI325X
CDNA-3-Refresh mit großem Speicher für die Inferenz großer Modelle
AMD · Rechenzentrum · ~$16000
NVIDIA A100 80GB
Ampere-GPU für Rechenzentren, die weiterhin weit verbreitet ist
NVIDIA · Rechenzentrum · ~$15000