Ministral 8B
Modelo compacto de Mistral pensado para despliegue en dispositivos y en el edge
Ministral 8B es un modelo de 8000 millones de parámetros que Mistral AI lanzó en octubre de 2024 como parte de «Les Ministraux», un par de modelos pequeños pensados para despliegue en dispositivos y en el edge, junto al más pequeño Ministral 3B. Usa atención de ventana deslizante intercalada para admitir una ventana de contexto de 128 000 tokens a pesar de su tamaño reducido, y Mistral lo posicionó frente a modelos de tamaño similar como Llama 3.1 8B y Gemma 2 9B, con mejores resultados en benchmarks de conocimiento, razonamiento y multilingüismo dentro de esa categoría.
Mistral lo publicó con la Mistral Research License, que permite el uso gratuito para investigación y pruebas pero exige una licencia comercial para desplegarlo en producción, a diferencia de los términos totalmente abiertos Apache 2.0 de Mistral 7B. Está dirigido a desarrolladores que crean aplicaciones para teléfonos, portátiles y otro hardware limitado, como asistentes locales, traducción y agentes ligeros, donde no es práctico ejecutar un modelo de tamaño completo.