AWS Inferentia2
Puce d'inférence de deuxième génération d'AWS
n. d.
Centre de données
32GB
HBM2e
820
GB/s de bande passante
// à propos de AWS Inferentia2
Puce d'inférence de deuxième génération d'AWS
// hardware similaire dans Centre de données
NVIDIA B200
GPU de centre de données NVIDIA Blackwell phare, pour l'entraînement de modèles de frontière
NVIDIA · Centre de données · n. d.
NVIDIA H100 SXM
GPU de centre de données d'architecture Hopper pour l'entraînement d'IA à grande échelle
NVIDIA · Centre de données · ~$30000
NVIDIA H200
Version Hopper revue, à grande mémoire, pour l'inférence de grands modèles
NVIDIA · Centre de données · ~$32000
AMD Instinct MI300X
Accélérateur phare d'AMD pour centre de données, pour l'entraînement de grands modèles d'IA
AMD · Centre de données · ~$15000
AMD Instinct MI325X
Version revue CDNA 3 à grande mémoire, pour l'inférence de grands modèles
AMD · Centre de données · ~$16000
NVIDIA A100 80GB
GPU pour centre de données de génération Ampere, encore largement déployé
NVIDIA · Centre de données · ~$15000