NVIDIA L4
GPU de inferencia Ada Lovelace de bajo consumo para servidores en la nube
~$2500
Centro de datos
24GB
GDDR6
300
GB/s de ancho de banda
30.3
FP32 TFLOPS
72W
TDP
7680
núcleos
4nm
proceso
// sobre NVIDIA L4
GPU de inferencia Ada Lovelace de bajo consumo para servidores en la nube
// hardware similar en Centro de datos
NVIDIA B200
GPU de centro de datos Blackwell tope de gama de NVIDIA para entrenar modelos de frontera
NVIDIA · Centro de datos · N/D
NVIDIA H100 SXM
GPU de centro de datos de arquitectura Hopper para entrenar IA a gran escala
NVIDIA · Centro de datos · ~$30000
NVIDIA H200
Versión renovada Hopper de gran memoria para inferencia de modelos grandes
NVIDIA · Centro de datos · ~$32000
AMD Instinct MI300X
Acelerador de centro de datos tope de gama de AMD para entrenar modelos grandes de IA
AMD · Centro de datos · ~$15000
AMD Instinct MI325X
Versión renovada CDNA 3 de gran memoria para inferencia de modelos grandes
AMD · Centro de datos · ~$16000
NVIDIA A100 80GB
GPU de centro de datos de la generación Ampere, todavía muy desplegada
NVIDIA · Centro de datos · ~$15000