Jurassic-1
Erstes großes Sprachmodell von AI21 und ein Zeitgenosse der GPT-3-Ära.
Die erste Modellfamilie für große Sprachmodelle von AI21 Labs wurde im August 2021 zusammen mit AI21 Studio angekündigt. Die größte Variante, Jurassic-1 Jumbo, hat 178 Milliarden Parameter. Damit liegt sie in derselben Größenordnung wie GPT-3 von OpenAI und gehörte zum Zeitpunkt der Veröffentlichung zu den größten öffentlich verfügbaren Sprachmodellen. AI21 entwickelte Jurassic-1 mit einem größeren Wortschatz als GPT-3: etwa 256.000 Tokens gegenüber rund 50.000 bei GPT-3. Mehrwort-Tokens stellen häufige Ausdrücke effizienter dar und verringern die für die Verarbeitung eines Textes benötigte Tokenzahl. Das Modell war nicht als Open Weights verfügbar, sondern nur über die API von AI21 Studio zugänglich. AI21 positionierte es als direkten Konkurrenten von GPT-3 für Textgenerierung, Zusammenfassungen und Fragenbeantwortung. Jurassic-1 blieb AI21s Flaggschiff, bis es 2023 durch Jurassic-2 ersetzt wurde. Inzwischen wurde es zugunsten der neueren Jamba-Modellfamilie von AI21 eingestellt.