BentoMLの代替
#1
Baseten
Basetenは、本番環境へAIモデルをデプロイするための推論プラットフォームです。機械学習チームは、カスタムモデル、ファインチューンしたチェックポイント、Llamaのようなオープンソースモデルを、短 …
#2
Modal
AIとデータ処理向けのサーバーレスGPUクラウド
#3
Anyscale
Anyscaleは、Pythonの分散コンピューティング向けオープンソースフレームワークRayの開発元です。そのプラットフォームは、学習、ファインチューニング、バッチ処理、大規模なAIモデルのサービン …
#4
Replicate
APIでAIモデルをクラウド上で動かす
#5
Together AI
オープンソースAIモデル向けの高速なクラウド推論
#6
MLflow
MLflowは、実験の追跡からモデルレジストリ、デプロイまで、機械学習のライフサイクルを管理するオープンソースのプラットフォームです。データサイエンティストは実行を記録し、パラメータや指標を比較できま …
#7
NVIDIA NIM
AIモデルをデプロイするための、GPU最適化済みの推論マイクロサービス