Jurassic-2

Jurassic-2 ist die zweite Generation proprietärer Sprachmodelle von AI21 Labs. Sie wurde im März 2023 als Nachfolger von Jurassic-1 angekündigt. Die Reihe erschien in drei Größen: Large, Grande und Jumbo, später in Light, Mid und Ultra umbenannt. Alle wurden mit rund 1,2 Billionen Tokens aus Webtexten, Wikipedia, Büchern und wissenschaftlichen Artikeln trainiert. AI21 nannte keine genauen Parameterzahlen; die größte Variante soll jedoch mehr als 60 Milliarden Parameter gehabt haben. Die Reihe richtete sich an Unternehmen, die AI21 Studio nutzen. Spezialisierte APIs für Zusammenfassungen, Paraphrasierung und Textverbesserung ergänzten allgemeine Chat- und Vervollständigungs-Endpunkte. Bei der Veröffentlichung konkurrierte Jurassic-2 direkt mit GPT-3.5. Inzwischen wurde es von AI21s Jamba-Modellen mit hybrider Mamba-Transformer-Architektur und deutlich größeren Kontextfenstern abgelöst.