Jamba 1.5 Mini
Kompaktes hybrides Transformer-Mamba-Modell von AI21.
Jamba 1.5 Mini ist das kleinere Modell der Jamba-1.5-Familie von AI21 Labs. Es erschien am 22. August 2024 zusammen mit Jamba 1.5 Large. Es nutzt dieselbe hybride Mixture-of-Experts-Architektur aus Transformer und Mamba, skaliert auf insgesamt 52 Milliarden Parameter mit 12 Milliarden aktiven, und übernimmt das Kontextfenster von 256.000 Tokens des größeren Schwestermodells. Im Arena-Hard-Benchmark erreichte es 46,1 Punkte und lag damit vor ähnlich großen Modellen wie Claude 3 Haiku, Mixtral 8x22B und Command R+. AI21 entwickelte es für geschäftliche Anwendungen mit hohen Latenzanforderungen, etwa Funktionsaufrufe, strukturiertes JSON und quellenbasierte Generierung. Über die API kostet es 0,20 US-Dollar pro Million Eingabetokens und 0,40 US-Dollar pro Million Ausgabetokens. Wie Jamba 1.5 Large steht es mit Gewichten auf Hugging Face unter der Jamba Open Model License von AI21 und ist über AWS Bedrock verfügbar.