Groq
Inferencia de IA ultrarrápida con chips LPU propios
Groq es conocida por su velocidad. Sus chips, llamados Language Processing Units, se diseñaron desde cero para ejecutar modelos de IA en lugar de adaptarse a partir de hardware gráfico, y generan texto mucho más rápido que los servicios típicos basados en GPU. Eso marca la diferencia en chats que se sienten instantáneos, asistentes de voz que no pueden permitirse esperar y agentes que hacen muchas llamadas seguidas a un modelo. La empresa no es un laboratorio de modelos: aloja modelos creados por otros.
La mayoría llega a Groq a través de GroqCloud, una plataforma para desarrolladores con una API compatible con OpenAI. Sirve modelos de pesos abiertos como Llama, Qwen y gpt-oss de OpenAI, además de modelos de voz a texto, y ofrece un nivel gratuito para pruebas y precios de pago por uso para producción. Cambiar una aplicación existente suele reducirse a modificar la URL base y la clave de API. Las empresas también pueden contratar capacidad dedicada.
La velocidad tiene contrapartidas. El catálogo se limita a los modelos que Groq decide alojar, y los modelos de frontera más nuevos o más grandes de los laboratorios cerrados no están disponibles. La capacidad y los límites de frecuencia pueden ser ajustados en los periodos de mucha demanda. La empresa también ha pasado por un cambio importante después de que Nvidia licenciara su tecnología de inferencia y fichara a parte de su dirección, aunque se dijo que GroqCloud seguiría funcionando de forma independiente. Cerebras, SambaNova, Together AI y Fireworks son las alternativas más cercanas.