AWS Inferentia2
Chip de inferencia de segunda generación de AWS
N/D
Centro de datos
32GB
HBM2e
820
GB/s de ancho de banda
// sobre AWS Inferentia2
Chip de inferencia de segunda generación de AWS
// hardware similar en Centro de datos
NVIDIA B200
GPU de centro de datos Blackwell tope de gama de NVIDIA para entrenar modelos de frontera
NVIDIA · Centro de datos · N/D
NVIDIA H100 SXM
GPU de centro de datos de arquitectura Hopper para entrenar IA a gran escala
NVIDIA · Centro de datos · ~$30000
NVIDIA H200
Versión renovada Hopper de gran memoria para inferencia de modelos grandes
NVIDIA · Centro de datos · ~$32000
AMD Instinct MI300X
Acelerador de centro de datos tope de gama de AMD para entrenar modelos grandes de IA
AMD · Centro de datos · ~$15000
AMD Instinct MI325X
Versión renovada CDNA 3 de gran memoria para inferencia de modelos grandes
AMD · Centro de datos · ~$16000
NVIDIA A100 80GB
GPU de centro de datos de la generación Ampere, todavía muy desplegada
NVIDIA · Centro de datos · ~$15000