Llama 3.1 8B
El nivel compacto de Meta en la generación Llama 3.1
Llama 3.1 8B es el nivel pequeño de la misma publicación de julio de 2024, pensado para quien quiere ejecutar un modelo capaz en una sola GPU o incluso en un portátil de gama alta. Comparte la ventana de contexto de 128 000 tokens y el entrenamiento multilingüe de sus hermanos mayores, y puntúa por encima del Llama 3 8B original en MMLU y HumanEval gracias a más datos de entrenamiento y a un post-entrenamiento más afinado. Los desarrolladores lo usan para asistentes en el dispositivo, procesamiento por lotes barato y experimentos de fine-tuning en los que el 70B o el 405B sobrarían o saldrían demasiado caros de servir. Se ejecuta con facilidad con herramientas como Ollama y es uno de los modelos más descargados de Hugging Face.