Enviar herramienta

Command R7B

El modelo Command de la generación actual más pequeño de Cohere

Gratis Lenguaje
Ver la página del producto →
128000 tokens de contexto
7B parámetros
CC-BY-NC 4.0 licencia
dic 2024 lanzamiento

Command R7B es el modelo más pequeño de la serie R de Cohere, publicado en diciembre de 2024 como lo que la empresa llamó la última entrada de esa gama. Con 7000 millones de parámetros está pensado para correr en hardware barato, incluidas CPU y GPU sueltas, y aun así cubrir generación aumentada por recuperación, uso de herramientas y tareas de razonamiento para las que se diseñaron los modelos más grandes de Cohere. En el lanzamiento encabezó el Open LLM Leaderboard de Hugging Face entre los modelos de pesos abiertos de tamaño parecido, por delante de Gemma 2 9B, Ministral 8B y Llama 3.1 8B en la media de benchmarks que incluyen MMLU, IFEval y GPQA. El modelo conserva la misma ventana de contexto de 128 000 tokens que sus hermanos mayores y tiene un precio muy por debajo, así que encaja en aplicaciones de mucho volumen y sensibles a la latencia, y no en tareas de nivel de frontera.