Enviar herramienta

Granite 3.0

La familia de modelos empresariales de pesos abiertos de IBM para sectores regulados

Gratis Lenguaje
Ver la página del producto →
4096 tokens de contexto
2B, 8B (dense); 1B, 3B (MoE) parámetros
Apache 2.0 licencia
oct 2024 lanzamiento

Granite 3.0 es la familia de tercera generación de modelos de lenguaje abiertos de IBM, publicada el 21 de octubre de 2024 para usos empresariales como atención al cliente, ciberseguridad y pipelines de RAG. La gama incluye modelos densos de 2B y 8B entrenados con 12 billones de tokens, más variantes de mezcla de expertos de 1B y 3B, todas bajo la licencia Apache 2.0, de modo que se pueden ajustar y desplegar comercialmente sin restricción. IBM situó Granite 3.0 frente a modelos de tamaño parecido de Meta y Mistral, con puntuaciones competitivas o mejores en benchmarks de razonamiento, código y matemáticas, y con modelos lo bastante pequeños para ejecutarse a bajo coste en GPU normales. El lanzamiento inicial salió con una ventana de contexto de 4K, ampliada después a 128K tokens en la actualización Granite 3.1 de diciembre de 2024. Granite 3.0 está disponible en Hugging Face, Ollama y la plataforma watsonx de IBM, y es la base de los modelos relacionados Granite Guardian, Code y Vision de IBM.