Together AI
Inferencia rápida en la nube para modelos de IA de código abierto
Together AI se centra en los modelos abiertos. Los desarrolladores llaman a modelos populares de pesos abiertos para texto, código, imágenes y más a través de una API compatible con OpenAI, y la pila de inferencia optimizada de la plataforma ofrece velocidad y precios competitivos. Incluye endpoints serverless para un uso rápido, endpoints dedicados para cargas constantes y procesamiento por lotes para reducir el coste.
La empresa también ofrece personalización y entrenamiento. Los equipos pueden hacer fine-tuning de modelos con sus datos, incluso con métodos de refuerzo, y alquilar clústeres de GPU para grandes entrenamientos, con énfasis en hardware de última generación. Sus investigadores han aportado técnicas como FlashAttention, que mejoran la eficiencia de los modelos y alimentan sus productos.
Together AI funciona con pago por uso, calculado por token o por tiempo de GPU, con créditos para usuarios nuevos y acuerdos para empresas. Su catálogo sigue el ecosistema de código abierto, así que no incluye los modelos cerrados de los grandes laboratorios. Entre sus competidores están Fireworks AI, Groq, Cerebras, Baseten, Replicate y OpenRouter como agregador. Together AI sirve a desarrolladores que quieren construir sobre modelos abiertos.