Gemma
Ursprüngliche Veröffentlichung des offenen Gemma-Modells von Google, entwickelt auf Grundlage derselben Forschung wie Gemini
Gemma ist Googles erste Familie offener Sprachmodelle. Sie erschien im Februar 2024 und basiert auf derselben Forschung wie Gemini. Die Familie umfasst Modelle mit zwei und sieben Milliarden Parametern, jeweils als Basis- und instruktionsoptimierter Checkpoint. Trainiert wurden sie mit zwei beziehungsweise sechs Billionen Tokens aus Webtexten, Mathematik und Code. Das Kontextfenster beträgt 8.192 Tokens und entspricht damit dem damaliger Modelle.
Die Veröffentlichung war bedeutsam, weil sie Entwickler:innen ein tatsächlich nutzbares kleines Modell bot, das auf einer einzelnen Consumer-GPU oder sogar einem Laptop laufen konnte, statt eine API vorauszusetzen. Die Lizenz gestattet kommerzielle Nutzung, untersagt aber bestimmte von Google benannte schädliche Anwendungen. Sie liegt damit zwischen vollständig offenen Lizenzen wie Apache 2.0 und den geschlossenen Bedingungen der meisten proprietären Modelle. Gemma wurde später von Gemma 2 und Gemma 3 abgelöst, etablierte aber das Namens- und Lizenzierungsschema, dem Google seither folgt.