Baichuan-13B
Bilinguales Modell von Baichuan mit offenen Gewichten, Vorgänger der Baichuan-2/3/4-Generationen
Baichuan-13B ist ein chinesisch-englisches Sprachmodell, das Baichuan Intelligent Technology im Juli 2023 als Erweiterung seines früheren 7B-Modells veröffentlichte. Es hat 13 Milliarden Parameter und wurde mit etwa 1,4 Billionen Tokens trainiert – laut Unternehmen 40 Prozent mehr Trainingsdaten, als Meta damals für LLaMA-13B verwendet hatte. Es erschien als Basismodell für weiteres Fine-Tuning sowie als Baichuan-13B-Chat-Variante für Dialoge. Beide wurden auf Hugging Face und GitHub unter einer Community-Lizenz veröffentlicht, die kleineren Unternehmen kommerzielle Nutzung erlaubt. Baichuan-13B erschien vor den Modellfamilien Baichuan 2, 3 und 4 und wurde weitgehend von ihnen abgelöst. Es war jedoch eines der frühen offenen chinesischen LLMs mit 13B Parametern und einer ausreichend freizügigen Lizenz für kommerzielle Experimente.