Portkey

Portkey se coloca entre las aplicaciones y los proveedores de modelos. Los desarrolladores le envían solicitudes y este las reenvía al proveedor elegido, gestiona los reintentos, cambia a otros modelos si falla uno, guarda resultados en caché y reparte la carga. Esto aumenta la fiabilidad y facilita el cambio de modelo.

La plataforma añade visibilidad y gestión: registros y estadísticas de coste y latencia, gestión de prompts, controles que revisan las entradas y salidas, presupuestos y controles de acceso para equipos. Es compatible con el Model Context Protocol y con frameworks de agentes.

Portkey tiene un nivel gratuito y planes de pago, y parte de la pasarela es de código abierto. Añadir una capa más también crea una dependencia. Entre las alternativas están LiteLLM, OpenRouter, Cloudflare AI Gateway, Helicone y Kong AI Gateway. Portkey sirve a equipos que ejecutan aplicaciones de IA en producción.