DeepInfraはオープンなモデルをホストし、トークンか使用量でアクセスを売ります。開発者はカタログからモデルを選びます。中身はチャットモデル、埋め込み、画像生成、音声のツールで、OpenAIの形式と互換のあるAPIで呼び出します。GPU、スケーリング、最適化は会社側が扱います。
魅力は価格と単純さです。オープンなモデルは広く手に入るので、ホストする側は費用と速度で競います。DeepInfraはその安い側にいます。場合によってはカスタムモデルやファインチューンした版も置け、安定した負荷には専用のGPUも使えます。
基本的な利用に月額はなく、使用量で請求されます。モデルの有無はオープンなコミュニティが公開するものに従うので、主要な研究所の非公開モデルはなく、信頼性は需要によって変わります。代替にはTogether AI、Fireworks AI、Groq、OpenRouter、Replicateがあります。DeepInfraは、オープンなモデルへ安く届きたい開発者に向きます。
