Jamba 1.5 Mini

Jamba 1.5 MiniはAI21 LabsのJamba 1.5シリーズの小型版で、2024年8月22日にJamba 1.5 Largeと同時に公開されました。同じTransformerとMambaを組み合わせたMoE構造を採用し、総パラメータ数を520億、アクティブ数を120億に縮小しつつ、上位版と同じ25万6,000トークンのコンテキスト長を保っています。Arena Hardベンチマークでは46.1点を記録し、Claude 3 Haiku、Mixtral 8x22B、Command R+など同規模モデルを上回りました。関数呼び出し、構造化JSON出力、根拠に基づく生成など、低遅延が重要なビジネス用途向けに開発され、API料金は入力100万トークンあたり0.20ドル、出力100万トークンあたり0.40ドルです。Jamba 1.5 Largeと同じくJamba Open Model Licenseで公開され、Hugging FaceとAWS Bedrockから利用できます。