SambaNova conçoit des puces sur mesure, appelées reconfigurable dataflow units, ainsi que le logiciel et les systèmes autour. L’objectif est une inférence et un entraînement rapides pour les grands modèles de langage, avec une consommation plus basse que des configurations GPU généralistes.
Son service cloud donne un accès rapide à des modèles ouverts via une API, et les entreprises peuvent déployer des systèmes sur site pour garder le contrôle des données. Le secteur public et de grandes organisations figurent parmi ses clients.
SambaNova se vend au cloud à l’usage et par contrats de systèmes. L’entreprise évolue dans un champ concurrentiel de fabricants de puces et a fait l’objet de reportages sur des financements et des discussions de rachat, donc vérifie son statut. Les alternatives incluent Groq, Cerebras, NVIDIA, Together AI et Fireworks AI. SambaNova convient aux organisations qui ont besoin d’une inférence rapide.