Fireworks AI

Fireworks AIは、オープンなモデルを効率よく提供することに重点を置いています。開発者は、OpenAIの形式と互換のあるAPIを通じて、よく使われるオープンウェイトの言語、ビジョン、画像、音声のモデルを呼び出します。プラットフォームの最適化された推論エンジンは、低い遅延と高いスループットを出します。多くの企業は、クローズドな代替より低い費用でモデルを動かし、どのモデルを使うかを自分たちで決めるために使っています。

プラットフォームはホスティングだけではありません。企業のデータでのファインチューンに対応し、強化学習の手法も含みます。独自モデルをデプロイし、エージェントを作るための構造化出力と関数呼び出しも扱います。専用デプロイは安定したワークロード向けに確保した容量を出し、バッチ処理などの機能は急ぎでないジョブの費用を下げます。クラウドで動き、セキュリティとコンプライアンス向けの企業向けオプションがあります。

Fireworksは、トークン単位またはGPU時間単位の従量課金で、新規ユーザー向けのクレジットがあります。カタログは新しいモデルの公開に合わせて変わり、品質は選んだモデルによります。速度ではTogether AI、Groq、Cerebrasが競合で、ほかにBaseten、Modal、Replicate、クラウド事業者自身のモデルサービスがあります。Fireworksは、オープンなモデルでアプリを作る開発者に向いています。