SambaNova diseña chips propios, llamados unidades de flujo de datos reconfigurables, junto con el software y los sistemas que los rodean. El objetivo es ofrecer inferencia y entrenamiento rápidos para grandes modelos de lenguaje con menos consumo eléctrico que las configuraciones habituales de GPU.
Su servicio en la nube ofrece acceso rápido a modelos abiertos mediante una API, y las empresas pueden instalar sistemas en sus propias instalaciones para controlar los datos. Entre sus clientes hay gobiernos y grandes organizaciones.
SambaNova se vende mediante precios de nube basados en el uso y contratos de sistemas. La empresa compite en un mercado de fabricantes de chips y ha sido objeto de noticias sobre financiación y posibles adquisiciones, por lo que conviene comprobar su situación. Entre las alternativas están Groq, Cerebras, NVIDIA, Together AI y Fireworks AI. SambaNova encaja con organizaciones que necesitan inferencia rápida.