Granite 13B

Granite 13B es uno de los primeros modelos fundacionales de IBM para su plataforma de IA empresarial watsonx, anunciado el 7 de septiembre de 2023 junto a una familia de modelos Granite orientados a usos de negocio, no al chat general. Tiene 13 000 millones de parámetros, usa atención multi-query con embeddings de posición aprendidos y se entrenó con el tokenizador de GPT-NeoX-20B de EleutherAI, lo que le da una ventana de contexto de 8192 tokens. IBM lo construyó para tareas como resumen de documentos, respuesta a preguntas y clasificación de texto en sectores regulados, como banca y seguros, y lo acompañó de la indemnización habitual de IBM para clientes preocupados por la exposición de derechos de autor en los datos de entrenamiento, un argumento que competidores como OpenAI y Anthropic no ofrecían entonces. Granite 13B era propietario y solo se accedía a él por watsonx, a diferencia de la generación posterior Granite 3 de IBM, que pasó a pesos con licencia abierta en Hugging Face. Desde entonces lo han sustituido versiones más nuevas de Granite, a medida que la oferta de IA empresarial de IBM se movió hacia pesos abiertos y una paridad de benchmarks más amplia con los modelos habituales.