Vast.ai は、GPUの計算資源が必要な人と、余った計算資源を持つ人をつなぎます。ゲーミングPCを持つ個人からデータセンターまで、ホストがマシンの仕様と価格を掲載します。ユーザーはGPUの種類、メモリ、場所、信頼性で検索し、その上でコンテナを起動します。ホスト間の競争があるため、大手クラウドのオンデマンド料金より価格が低く保たれています。
プラットフォームには、Docker ベースの環境や Jupyter ノートブックを起動するツールと、主要なAIフレームワーク向けのテンプレートがあります。大きく割引された中断可能なインスタンスと、オンデマンドの選択肢の両方があります。コンシューマー向けカードからデータセンター向けモデルまでさまざまなGPUがあり、コストを抑えたいチームの実験、レンダリング、ファインチューン、推論に向いています。
Vast.ai は従量課金です。品質と信頼性はホスト次第で、専用クラウドと比べて遅い、中断される、安全性が低いといったことがあります。機密データは、検証済みのデータセンターのホストを使うなど、慎重に扱う必要があります。代替には Lambda、RunPod、CoreWeave、Together AI、大手クラウドがあります。Vast.ai は、低コストを重視する研究者や開発者に向いています。