SambaNova entwickelt eigene Chips, sogenannte rekonfigurierbare Dataflow Units, sowie dazugehörige Software und Systeme. Ziel ist schnelles Training und schnelle Inferenz großer Sprachmodelle bei geringerem Energiebedarf als mit universellen GPU-Systemen.
Der Cloud-Dienst bietet schnellen API-Zugriff auf offene Modelle. Unternehmen können Systeme lokal bereitstellen und behalten so die Kontrolle über ihre Daten. Zu den Kunden zählen Behörden und große Organisationen.
SambaNova wird über nutzungsbasierte Cloudpreise und Systemverträge angeboten. Das Unternehmen steht in einem stark umkämpften Markt. Alternativen sind NVIDIA, Groq, Cerebras und Hyperscaler. SambaNova eignet sich für Organisationen, die leistungsfähige KI-Infrastruktur benötigen.