Cloudflare Workers AI

Workers AI bringt Modellinferenz näher zu den Nutzer:innen. Entwickler:innen schreiben einen Cloudflare Worker, rufen ein Modell über eine Bindung oder REST-API auf und Cloudflare führt es auf GPUs in Rechenzentren weltweit aus. Server müssen nicht verwaltet werden; die Plattform skaliert automatisch.

Der Katalog umfasst offene Modelle für Chat und Textgenerierung, Einbettungen, Bildgenerierung, Spracherkennung, Übersetzung und Klassifizierung. Entwickler:innen kombinieren Workers AI mit weiteren Cloudflare-Produkten: Vectorize für Vektorsuche, D1 für Datenbanken, R2 für Speicherung und AI Gateway für Überwachung. So lassen sich vollständige Edge-Anwendungen bauen.

Workers AI bietet ein kostenloses Kontingent und nutzungsabhängige Preise, die in Recheneinheiten berechnet werden. Die Modellliste besteht überwiegend aus Open-Source-Modellen; die leistungsstärksten proprietären Modelle fehlen daher. Alternativen sind Together AI, Fireworks AI, Replicate, inzwischen Teil von Cloudflare, AWS Bedrock und Hugging Face Inference. Workers AI eignet sich für Entwickler:innen, die auf Cloudflare aufbauen.