Aquila

Aquila ist das erste offene bilinguale Sprachmodell der Beijing Academy of Artificial Intelligence (BAAI). Es wurde 2023 als Basismodell mit 7B Parametern veröffentlicht und mit chinesischen und englischen Texten trainiert. BAAI entwickelte es auf Basis einer GPT-ähnlichen Architektur mit einem eigenen Tokenizer, der chinesische Texte effizienter verarbeitet als Tokenizer aus vorrangig englischsprachigen Modellen. Das Kontextfenster umfasst 2048 Tokens. Zur Veröffentlichung gehörten sowohl ein vortrainiertes Basismodell als auch die instruction-tuned Variante AquilaChat und das auf Code ausgerichtete Modell AquilaCode.

BAAI veröffentlichte die Gewichte offen unter der eigenen Aquila-Lizenz, die kommerzielle Nutzung unter bestimmten Bedingungen erlaubt, und stellte die Modelle über Hugging Face und das eigene ModelHub bereit. Aquila gehörte zu einer Reihe chinesischer Open-Weight-Modelle von 2023, die Entwicklern im Inland Alternativen zu westlichen Modellen wie LLaMA bieten sollten. Inzwischen wurde es innerhalb der BAAI-Familie von der größeren Aquila2-Reihe mit längerem Kontext abgelöst.