Cloudflare Workers AI

Workers AI rapproche l’inférence de modèles des utilisateurs. Un développeur écrit un Cloudflare Worker, appelle un modèle via un binding ou une API REST, et Cloudflare le fait tourner sur des GPU dans ses data centers autour du monde. Il n’y a pas de serveurs à gérer, et la plateforme monte en charge toute seule.

Le catalogue inclut des modèles ouverts pour le chat et la génération de texte, les embeddings, la génération d’images, la reconnaissance vocale, la traduction et la classification. Les développeurs le combinent à d’autres produits Cloudflare, comme Vectorize pour la recherche vectorielle, D1 pour les bases de données, R2 pour le stockage et AI Gateway pour la supervision, pour construire des applications complètes en périphérie.

Workers AI a un quota gratuit et une tarification à l’usage, facturée en unités liées au calcul. La liste de modèles est surtout open source, donc les modèles propriétaires les plus capables n’y sont pas. Parmi les alternatives : Together AI, Fireworks AI, Replicate (désormais dans Cloudflare), AWS Bedrock et Hugging Face Inference. Workers AI convient aux développeurs qui construisent sur Cloudflare.