Granite 3.0
IBMs Modellfamilie mit offenen Gewichten für Unternehmen in regulierten Branchen
Granite 3.0 ist die dritte Generation offener Sprachmodelle von IBM. Sie erschien am 21. Oktober 2024 für Unternehmensanwendungen wie Kundenservice, Cybersicherheit und RAG-Pipelines. Die Familie umfasst dichte Modelle mit 2B und 8B Parametern, die mit 12 Billionen Tokens trainiert wurden, sowie Mixture-of-Experts-Varianten mit 1B und 3B Parametern. Alle stehen unter Apache 2.0 und können uneingeschränkt feinabgestimmt und kommerziell eingesetzt werden. IBM positionierte Granite 3.0 gegenüber ähnlich großen Modellen von Meta und Mistral und meldete konkurrenzfähige oder bessere Ergebnisse bei Benchmarks für Schlussfolgern, Programmieren und Mathematik. Zugleich sind die Modelle klein genug, um kostengünstig auf Standard-GPUs zu laufen. Die erste Version bot ein Kontextfenster von 4K Tokens, das mit dem im Dezember 2024 veröffentlichten Granite-3.1-Update auf 128K erweitert wurde. Granite 3.0 ist über Hugging Face, Ollama und IBMs watsonx verfügbar und bildet die Grundlage für die verwandten Modelle Granite Guardian, Code und Vision.