Portkeyは、アプリケーションとモデルプロバイダーの間に入ります。開発者がPortkeyにリクエストを送ると、選んだプロバイダーに転送し、リトライ、別モデルへのフォールバック、キャッシュ、負荷分散を引き受けます。信頼性が上がり、モデルの切り替えも簡単になります。
プラットフォームには、可視化とガバナンスの機能もあります。コストとレイテンシのログと分析、プロンプト管理、入力と出力を確認するガードレール、チーム向けの予算とアクセス制御です。Model Context Protocolとエージェントフレームワークに対応しています。
Portkeyには無料枠と有料プランがあり、ゲートウェイは一部がオープンソースです。層が1つ増えるので、依存先も1つ増えます。代替にはLiteLLM、OpenRouter、Cloudflare AI Gateway、Helicone、Kong AI Gatewayがあります。Portkeyは、AIアプリケーションを本番で動かすチームに向いています。
