Ministral 8B
Kompaktes Modell von Mistral für den Einsatz auf Geräten und am Edge.
Ministral 8B ist ein Modell mit acht Milliarden Parametern, das Mistral AI im Oktober 2024 als Teil von „Les Ministraux“ veröffentlichte. Die Reihe umfasst zwei kleine Modelle für Geräte- und Edge-Betrieb sowie das noch kleinere Ministral 3B. Ministral 8B nutzt verschachtelte Sliding-Window-Attention, um trotz seiner Größe ein Kontextfenster von 128.000 Tokens zu unterstützen. Mistral positionierte es gegen ähnlich große Modelle wie Llama 3.1 8B und Gemma 2 9B und beanspruchte bessere Ergebnisse bei Wissen, Schlussfolgern und mehrsprachigen Benchmarks.
Mistral veröffentlichte es unter der Mistral Research License. Forschung und Tests sind kostenlos, für den kommerziellen Produktiveinsatz braucht es jedoch eine Lizenz – anders als beim vollständig offenen Apache-2.0-Modell Mistral 7B. Es richtet sich an Entwickler:innen, die Anwendungen für Smartphones, Laptops und andere eingeschränkte Hardware bauen, etwa lokale Assistenten, Übersetzung und leichte Agenten, bei denen ein vollständiges großes Modell nicht praktikabel ist.