Galactica

Galactica ist ein Sprachmodell von Meta AI, das speziell für Wissenschaft entwickelt und mit 48 Millionen Fachartikeln, Lehrbüchern, Nachschlagewerken und Enzyklopädien statt mit allgemeinem Webtext trainiert wurde. Meta veröffentlichte es im November 2022 in Größen von 125 Millionen bis 120 Milliarden Parametern. Die größte Version wurde mit rund 106 Milliarden Tokens kuratierter wissenschaftlicher Texte trainiert. Das Modell konnte Quellenangaben erzeugen, Mathematikaufgaben lösen, chemische Notation schreiben und Artikel im Stil von Wikipedia entwerfen. Meta präsentierte es als Werkzeug, mit dem Forschende Arbeiten zusammenfassen und die wissenschaftliche Literatur durchsuchen können.

Die öffentliche Demo wurde drei Tage nach dem Start abgeschaltet, nachdem Nutzer:innen erfundene Quellenangaben und selbstsicher formulierte, aber falsche wissenschaftliche Behauptungen vorgeführt hatten. Der Vorfall wurde zu einem häufig zitierten frühen Beispiel für die Risiken generativer Modelle ohne ausreichende Schutzmaßnahmen und ereignete sich etwa zwei Wochen vor dem Start von ChatGPT. Meta ließ die Modellgewichte für Forschende unter nichtkommerzieller Lizenz auf Hugging Face verfügbar. Heute gilt Galactica vor allem als warnendes Fallbeispiel und weniger als aktiv genutztes Werkzeug.