Cloudflare Workers AI

Workers AIは、モデルの推論をユーザーの近くで実行します。開発者はCloudflare Workerを書き、バインディングかREST APIでモデルを呼び、Cloudflareが世界中のデータセンターのGPUで実行します。管理するサーバーはなく、プラットフォームは自動で処理量を広げます。

カタログには、チャットとテキスト生成、埋め込み、画像生成、音声認識、翻訳、分類向けのオープンなモデルがあります。開発者は、ベクトル検索のVectorize、データベースのD1、ストレージのR2、監視のAI Gatewayなど、ほかのCloudflare製品と組み合わせ、エッジでアプリ全体を作れます。

Workers AIには無料枠と、計算に連動する単位で請求する従量料金があります。モデル一覧のほとんどはオープンソースなので、性能の最も高い独自モデルは含まれません。代替にはTogether AI、Fireworks AI、Replicate（現在はCloudflareの一部）、AWS Bedrock、Hugging Face Inferenceがあります。Workers AIは、Cloudflare上で作る開発者に向いています。