Ministral 8B
Le modèle compact de Mistral, fait pour le déploiement sur l'appareil et en périphérie
Ministral 8B est un modèle de 8 milliards de paramètres que Mistral AI a publié en octobre 2024 dans « Les Ministraux », une paire de petits modèles destinés au déploiement sur l’appareil et en périphérie, aux côtés du plus petit Ministral 3B. Il utilise une attention à fenêtre glissante entrelacée pour tenir une fenêtre de contexte de 128 000 tokens malgré sa petite taille. Mistral le plaçait face à des modèles de taille proche, comme Llama 3.1 8B et Gemma 2 9B, en annonçant de meilleurs résultats sur les benchmarks de connaissances, de raisonnement et de multilinguisme dans cette classe.
Mistral l’a publié sous la Mistral Research License, qui autorise l’usage gratuit pour la recherche et les tests, mais exige une licence commerciale pour un déploiement en production, contrairement aux conditions Apache 2.0 entièrement ouvertes de Mistral 7B. Il vise les développeurs qui construisent des applications pour téléphones, ordinateurs portables et autre hardware limité, comme des assistants en local, de la traduction et des agents légers, là où faire tourner un modèle pleine taille n’est pas pratique.