Baichuan-13B

Baichuan-13Bは、Baichuan Intelligent Technologyが2023年7月に公開した中国語・英語のバイリンガルの言語モデルで、同社の以前の7Bモデルを拡張したものです。パラメータ数は130億で、約1.4兆トークンで学習しました。同社によると、当時MetaのLLaMA-13Bが使った学習データより40%多い量です。さらにファインチューンするためのベースのチェックポイントと、対話向けに調整したBaichuan-13B-Chatの両方があり、どちらもHugging FaceとGitHubで、小規模な企業の商用利用を認めるコミュニティライセンスのもと配布されています。Baichuan 2、3、4の各ファミリーより前のモデルで、大半はそれらに置き換えられていますが、13B規模に達した初期の中国のオープンウェイトLLMのうち、商用の試用に十分なほど緩いライセンスを備えた1つでした。