NVIDIA Tesla P40
GPU de inferencia de la era Pascal, todavía muy usada por su VRAM barata para LLM en local
~$5700
Centro de datos
24GB
GDDR5
346
GB/s de ancho de banda
12
FP32 TFLOPS
250W
TDP
3840
núcleos
16nm
proceso
// sobre NVIDIA Tesla P40
GPU de inferencia de la era Pascal, todavía muy usada por su VRAM barata para LLM en local
// hardware similar en Centro de datos
NVIDIA B200
GPU de centro de datos Blackwell tope de gama de NVIDIA para entrenar modelos de frontera
NVIDIA · Centro de datos · N/D
NVIDIA H100 SXM
GPU de centro de datos de arquitectura Hopper para entrenar IA a gran escala
NVIDIA · Centro de datos · ~$30000
NVIDIA H200
Versión renovada Hopper de gran memoria para inferencia de modelos grandes
NVIDIA · Centro de datos · ~$32000
AMD Instinct MI300X
Acelerador de centro de datos tope de gama de AMD para entrenar modelos grandes de IA
AMD · Centro de datos · ~$15000
AMD Instinct MI325X
Versión renovada CDNA 3 de gran memoria para inferencia de modelos grandes
AMD · Centro de datos · ~$16000
NVIDIA A100 80GB
GPU de centro de datos de la generación Ampere, todavía muy desplegada
NVIDIA · Centro de datos · ~$15000