NVIDIA L40S
GPU de centro de datos Ada Lovelace para inferencia y cargas de gráficos
~$8000
Centro de datos
48GB
GDDR6 ECC
864
GB/s de ancho de banda
91.6
FP32 TFLOPS
350W
TDP
18176
núcleos
4nm
proceso
// sobre NVIDIA L40S
GPU de centro de datos Ada Lovelace para inferencia y cargas de gráficos
// hardware similar en Centro de datos
NVIDIA B200
GPU de centro de datos Blackwell tope de gama de NVIDIA para entrenar modelos de frontera
NVIDIA · Centro de datos · N/D
NVIDIA H100 SXM
GPU de centro de datos de arquitectura Hopper para entrenar IA a gran escala
NVIDIA · Centro de datos · ~$30000
NVIDIA H200
Versión renovada Hopper de gran memoria para inferencia de modelos grandes
NVIDIA · Centro de datos · ~$32000
AMD Instinct MI300X
Acelerador de centro de datos tope de gama de AMD para entrenar modelos grandes de IA
AMD · Centro de datos · ~$15000
AMD Instinct MI325X
Versión renovada CDNA 3 de gran memoria para inferencia de modelos grandes
AMD · Centro de datos · ~$16000
NVIDIA A100 80GB
GPU de centro de datos de la generación Ampere, todavía muy desplegada
NVIDIA · Centro de datos · ~$15000