Cloudflare Workers AI

Workers AI acerca la inferencia de modelos a los usuarios. Un desarrollador escribe un Cloudflare Worker, llama a un modelo mediante un binding o la API REST, y Cloudflare lo ejecuta en GPU de sus centros de datos de todo el mundo. No hay servidores que gestionar y la plataforma escala automáticamente.

El catálogo incluye modelos abiertos para chat y generación de texto, embeddings, generación de imágenes, reconocimiento de voz, traducción y clasificación. Los desarrolladores lo combinan con otros productos de Cloudflare, como Vectorize para la búsqueda vectorial, D1 para bases de datos, R2 para almacenamiento y AI Gateway para la monitorización, para construir aplicaciones completas en el edge.

Workers AI tiene una cuota gratuita y precios por uso, facturados en unidades ligadas al cómputo. La lista de modelos es en su mayoría de código abierto, así que no incluye los modelos propietarios más potentes. Entre las alternativas están Together AI, Fireworks AI, Replicate (ahora parte de Cloudflare), AWS Bedrock y Hugging Face Inference. Workers AI encaja con desarrolladores que construyen sobre Cloudflare.