Groqの代替
独自のLPUチップによる、超高速のAI推論
#1
Cerebras
ウェハースケールのチップ技術による、世界最速のAI推論
#2
SambaNova
SambaNovaは、大規模モデルを企業規模で、非常に高速な推論で動かすためのAIハードウェアとソフトウェアを作っています。低遅延の応答が必要な組織が、同社のクラウドとオンプレミスのシステムを使います …
#3
Together AI
オープンソースAIモデル向けの高速なクラウド推論
#4
Fireworks AI
オープンソースのAIモデル向けに、速くて費用を抑えた推論プラットフォーム
#5
DeepInfra
DeepInfraは、GPUを自分で管理せず、簡単なAPIでオープンソースのAIモデルを動かすクラウド推論のプラットフォームです。開発者はLlama、Mistral、Whisperなどのモデルを低い費 …
#6
Baseten
Basetenは、本番環境へAIモデルをデプロイするための推論プラットフォームです。機械学習チームは、カスタムモデル、ファインチューンしたチェックポイント、Llamaのようなオープンソースモデルを、短 …
#7
NVIDIA NIM
AIモデルをデプロイするための、GPU最適化済みの推論マイクロサービス