SambaNovaは、再構成可能データフローユニットと呼ばれる独自のチップと、その周りのソフトウェアやシステムを設計しています。汎用GPUの構成より低い消費電力で、大規模言語モデルの高速な推論と学習を行うことが狙いです。
クラウドサービスではAPIを通じてオープンモデルにすばやくアクセスでき、企業はデータを管理するためにシステムをオンプレミスに導入できます。顧客には政府機関や大企業が含まれます。
SambaNovaは、従量課金のクラウド料金とシステム契約で販売されています。同社は競合するチップメーカーが多い市場に置かれており、資金調達や買収交渉に関する報道もあるため、最新の状況を確認してください。代替にはGroq、Cerebras、NVIDIA、Together AI、Fireworks AIがあります。高速な推論が必要な組織に向いています。