Llama 3.1 8B

Llama 3.1 8Bは、2024年7月の同シリーズで最小のモデルです。1基のGPU、または高性能ノートPCで実用的なモデルを動かしたい人向けに設計されています。上位モデルと同じ128,000トークンのコンテキスト長と多言語学習に対応します。学習データの増加と事後学習の改善により、MMLUとHumanEvalのスコアは元のLlama 3 8Bを上回ります。70Bや405Bでは過剰、あるいは提供コストが高すぎる用途で、開発者は端末内アシスタント、低価格のバッチ処理、ファインチューニング実験に使っています。Ollamaなどのツールで簡単に動かせ、Hugging Faceで最も多くダウンロードされるモデルの1つです。