Llama 3.1 70B
Palier intermédiaire de la sortie Llama 3.1 de Meta, entre les modèles 8B et 405B
Llama 3.1 70B est le palier du milieu de la sortie Llama 3.1 de Meta en juillet 2024, entre la version à 8 milliards de paramètres et le modèle phare à 405 milliards. Meta a entraîné toute la famille sur plus de 15 billions de tokens et a étendu la fenêtre de contexte à 128 000 tokens, un grand saut par rapport aux 8 192 tokens du Llama 3 d’origine. Le modèle 70B a ajouté le multilingue et un meilleur usage d’outils, et sur des benchmarks comme MMLU et HumanEval il se place près du 405B, bien plus grand, pour une fraction du coût de calcul. Comme Meta a publié les poids ouvertement sous la Llama 3.1 Community License, le palier 70B est devenu un choix courant pour les entreprises qui voulaient une qualité solide, à auto-héberger ou à faire tourner via des fournisseurs d’API tiers comme Together AI et AWS Bedrock.