Baichuan-13B
Modelo bilingüe de pesos abiertos de Baichuan, anterior a las generaciones Baichuan 2, 3 y 4
Baichuan-13B es un modelo de lenguaje bilingüe de chino e inglés que Baichuan Intelligent Technology publicó en julio de 2023, como ampliación del modelo de 7B anterior de la empresa. Tiene 13 000 millones de parámetros y se entrenó con unos 1,4 billones de tokens, un 40 % más de datos de entrenamiento de los que, según la empresa, había usado entonces el LLaMA-13B de Meta. Llegó como checkpoint base para seguir con fine-tuning y como variante Baichuan-13B-Chat alineada para el diálogo, ambos distribuidos en Hugging Face y GitHub bajo una licencia de comunidad que permite el uso comercial a empresas más pequeñas. Es anterior a las familias Baichuan 2, 3 y 4, y en gran parte lo han sustituido, pero fue uno de los primeros LLM chinos de pesos abiertos en llegar a la escala de 13B con una licencia lo bastante permisiva para experimentar en uso comercial.