Command R7B
Plus petit modèle Command de la génération actuelle chez Cohere
Command R7B est le plus petit modèle de la série R de Cohere, sorti en décembre 2024. L’entreprise le présentait comme la dernière entrée de cette gamme. À 7 milliards de paramètres, il est fait pour tourner sur du matériel peu coûteux, y compris des CPU et un seul GPU, tout en gérant la génération augmentée par la recherche, l’usage d’outils et des tâches de raisonnement pour lesquelles les plus gros modèles de Cohere ont été conçus. Au lancement, il était en tête du Hugging Face Open LLM Leaderboard parmi les modèles à poids ouverts de taille proche, devant Gemma 2 9B, Ministral 8B et Llama 3.1 8B en moyenne, sur des benchmarks dont MMLU, IFEval et GPQA. Il garde la même fenêtre de contexte de 128 000 tokens que les plus gros de la série, et son tarif est bien plus bas que le leur. Il vise donc les applications à fort volume et sensibles à la latence, plutôt que les tâches du niveau des modèles frontière.