Llama 3.1 8B
Kompakte Variante der Llama-3.1-Generation von Meta
Llama 3.1 8B ist die kleine Variante derselben Veröffentlichung vom Juli 2024 und für den Betrieb auf einer einzelnen GPU oder sogar einem leistungsstarken Laptop gedacht. Es teilt das Kontextfenster von 128.000 Tokens und das mehrsprachige Training seiner größeren Geschwister. Dank zusätzlicher Trainingsdaten und verfeinertem Nachtraining erzielt es bei MMLU und HumanEval bessere Werte als das ursprüngliche Llama 3 8B. Entwickler:innen nutzen es für Geräteassistenten, günstige Batch-Verarbeitung und Fine-Tuning-Experimente, bei denen die 70B- oder 405B-Modelle überdimensioniert oder zu teuer wären. Es läuft unkompliziert mit Werkzeugen wie Ollama und gehört zu den meistgeladenen Modellen auf Hugging Face.