Azure OpenAIは、Microsoftのクラウドを通して届くOpenAIのモデル群です。企業は、言語、推論、画像、音声の同じ系統のモデルを、Azureの契約条件と請求、セキュリティ管理のもとで使います。規制産業や大企業では、ここが大事です。データはAzureの内側で処理され、プライベートネットワークに隔離でき、Microsoftのコンプライアンス認証とサービスレベル契約の対象になります。
開発はMicrosoft Foundryで行います。そこでモデルをデプロイし、プレイグラウンドで試し、自社のデータとツールにつなぎます。使える機能には、ファインチューニング、コンテンツのフィルタ、ツールと関数の呼び出し、社内文書からの検索、トレーシングがあります。デプロイにはいくつかの種類があり、標準の従量課金、バッチ、そして安定した負荷向けに容量を確保して遅延を読みやすくするプロビジョンドスループットなどです。FoundryはOpenAI以外のモデルも選べるので、チームは一か所で選択肢を比べられます。
新しいOpenAIのモデルは、OpenAI自身のAPIより少し遅れてAzureに来ることがあり、いちばん新しいものには申請が要る場合があります。料金はOpenAIのトークン課金にAzureの請求が付き、企業向けの割引はよくあります。主に、すでにMicrosoftへ揃えている企業向けです。主な代替はAWS BedrockとGoogle Vertex AIです。個人や小さなプロジェクトには、たいていOpenAI自身のAPIの方が単純です。