Enviar herramienta

Jurassic-1

El primer gran modelo de lenguaje de AI21, contemporáneo de la época de GPT-3

De pago Lenguaje
Ver la página del producto →
2048 tokens de contexto
178B parámetros
Proprietary licencia
ago 2021 lanzamiento

Jurassic-1 es la primera familia de grandes modelos de lenguaje de AI21 Labs, anunciada en agosto de 2021 junto al lanzamiento de AI21 Studio. La versión más grande, Jurassic-1 Jumbo, tiene 178 000 millones de parámetros, en la misma clase de tamaño que GPT-3 de OpenAI, y era uno de los modelos de lenguaje más grandes disponibles de forma pública en el momento del lanzamiento. AI21 construyó Jurassic-1 con un vocabulario más grande que el de GPT-3, unos 256 000 tokens frente a los cerca de 50 000 de GPT-3, y usó tokens de varias palabras para representar frases habituales de forma más eficiente y reducir el número de tokens necesarios para procesar un texto. Solo se accedía por la API de AI21 Studio, no como pesos abiertos, y AI21 lo situó como competidor directo de GPT-3 en tareas como generación de texto, resumen y respuesta a preguntas. Jurassic-1 fue el modelo principal de AI21 hasta que la empresa lo sustituyó por Jurassic-2 en 2023, y desde entonces se ha retirado en favor de la familia más nueva de modelos Jamba.