Cerebras

Cerebras adoptó un enfoque poco habitual para el hardware de IA. En lugar de cortar una oblea de silicio en muchos chips pequeños, fabrica un único chip enorme con toda la oblea, que alberga una enorme cantidad de cómputo y de memoria en el propio chip. Ese diseño reduce el movimiento de datos entre chips que ralentiza los modelos grandes y le permite generar tokens a velocidades muy altas.

La empresa vende sus sistemas y opera un servicio de inferencia en la nube en el que los desarrolladores llaman a modelos abiertos mediante una API, con respuestas rápidas que encajan con agentes, herramientas de programación y aplicaciones en tiempo real. Tiene alianzas con laboratorios de IA y proveedores de nube, y admite entrenamiento además de inferencia. Los desarrolladores pueden probar la API con un nivel gratuito y luego pagar por uso, a menudo con tarifas por token competitivas.

Cerebras compite en un sector dominado por NVIDIA, y su catálogo de modelos es limitado en comparación con los proveedores de nube generalistas. La capacidad y los modelos compatibles cambian, y los grandes clientes dominan su negocio. Entre las alternativas para inferencia rápida están Groq, SambaNova, Together AI y Fireworks, que funcionan con hardware distinto, además de las nubes basadas en NVIDIA. Cerebras encaja con desarrolladores que necesitan una latencia muy baja y con equipos interesados en alternativas a las GPU.