Mathstral

Mathstral es un modelo de 7000 millones de parámetros que Mistral AI publicó en julio de 2024, construido sobre la base de Mistral 7B y ajustado en concreto para el razonamiento matemático y STEM. Salió de una colaboración con Project Numina, un grupo centrado en hacer avanzar los modelos abiertos de matemáticas, y se publicó junto a Codestral Mamba como uno de los dos modelos especialistas «en miniatura» de esa semana. En el benchmark MATH puntúa un 56,6 %, que sube a cerca del 69 % con votación por mayoría entre varias muestras, y llega al 63,5 % en MMLU, por delante de la mayoría de los otros modelos de la clase 7B en tareas de razonamiento cuantitativo.

Mistral publicó Mathstral bajo licencia Apache 2.0, así que se puede descargar, hacer fine-tuning y ejecutar en local sin restricciones. Va dirigido a investigadores y desarrolladores que necesitan un modelo pequeño y autoalojable para problemas de matemáticas de varios pasos, aplicaciones de tutoría o como base para seguir con el fine-tuning, y no para el chat de propósito general.