Llama 3.2
Erste Llama-Generation von Meta mit visuell leistungsfähigen und On-Device-Varianten
Llama 3.2 ist Metas Veröffentlichung vom September 2024, mit der erstmals Vision in die Llama-Reihe kam. Dazu gehörten kleine reine Textmodelle für Smartphones und Edge-Geräte. Die größte Vision-Variante mit 90 Milliarden Parametern verbindet einen Llama-3.1-Text-Backbone mit einem Bildencoder, der auf etwa sechs Milliarden Bild-Text-Paaren trainiert wurde. So kann sie Diagramme lesen, Fotos beschreiben und Fragen zu Bildern beantworten, zusätzlich zu normalen Texteingaben. Meta veröffentlichte außerdem leichte Modelle mit 1 und 3 Milliarden Parametern für den lokalen Betrieb auf Mobilgeräten statt in Rechenzentren. Beim Schlussfolgern liegt das 90B-Modell nahe an Llama 3.1 70B und ergänzt multimodale Eingaben. Es steht unter der Llama-3.2-Community-Lizenz; die Gewichte gibt es auf Hugging Face.