ChatGLM3

ChatGLM3 ist die dritte Generation der ChatGLM-Dialogmodellreihe. Sie wurde gemeinsam von Zhipu AI und dem KEG-Labor der Tsinghua-Universität entwickelt und Ende Oktober 2023 veröffentlicht. Das Basismodell ChatGLM3-6B ist bilingual auf Chinesisch und Englisch ausgelegt. Gegenüber den Vorgängern bietet es verbesserte Unterstützung für Function Calling, Codeausführung und agentische Tool-Nutzung sowie eine vielfältigere Mischung im Pretraining mit mehr Trainings-Tokens und verbesserter Abstimmung. Bei der Veröffentlichung berichtete Zhipu, dass das 6B-Basismodell andere vortrainierte Modelle mit weniger als zehn Milliarden Parametern in Dutzenden Benchmarks zu Schlussfolgern, Mathematik, Programmierung und Allgemeinwissen anführte.

Zhipu veröffentlichte ChatGLM3 in mehreren Kontextvarianten: neben dem Standardmodell ChatGLM3-6B auch Versionen mit 32K und 128K Tokens für größere Dokumente und längere Gespräche. Das Modell steht unter Apache 2.0 mit offenen Gewichten und ist auf Hugging Face weit verbreitet. Es wird häufig für selbst gehostete chinesischsprachige Chat-Anwendungen verwendet. Inzwischen ist Zhipu zu neueren und leistungsfähigeren Modellen der GLM-4-Reihe übergegangen und firmiert unter der Marke Z.ai. ChatGLM3 bleibt ein älteres Modell, das vor allem dort eingesetzt wird, wo geringe Größe und niedrige Hostingkosten wichtiger sind als Spitzenleistung.