MiniCPM
Petit modèle économe d'OpenBMB, conçu pour bien tourner sur les téléphones et les appareils en périphérie
MiniCPM est un modèle de langage de 2,4 milliards de paramètres qu’OpenBMB a sorti en février 2024, construit pour bien tourner sur les téléphones et d’autres appareils en périphérie, là où un modèle complet de 7B ou 13B serait trop lourd. Malgré sa petite taille, OpenBMB indiquait qu’il se place près de Mistral 7B sur les benchmarks généraux, et devant des modèles plus grands comme Llama 2 13B et Falcon 40B sur plusieurs tâches, en particulier la compréhension du chinois, les maths et le code. Une variante séparée pour le long contexte, MiniCPM-2B-128k, étend la fenêtre de contexte à 128 000 tokens pour les usages chargés en documents.
Le modèle est à poids ouverts sous licence Apache 2.0 et distribué via Hugging Face, visé vers les développeurs qui construisent des applications hors ligne ou peu coûteuses et ont besoin d’un modèle capable qui tient dans des budgets mémoire et calcul serrés. Il est devenu la base des modèles multimodaux MiniCPM-V suivants d’OpenBMB, et il a aidé à fixer l’orientation du labo : une IA économe, sur l’appareil, comme alternative au fait de tout faire grossir.