Falcon 2
La generación Falcon de TII entre Falcon 180B y Falcon 3, con una variante de visión-lenguaje
Falcon 2 es una familia de modelos de 11 000 millones de parámetros que el Technology Innovation Institute publicó en mayo de 2024, entrenada con 5,5 billones de tokens en 11 idiomas. Queda entre el Falcon 180B anterior y la generación posterior Falcon 3, y es el punto en el que TII añadió una variante de visión-lenguaje, Falcon 2 11B VLM, que puede tomar una imagen como entrada y describirla o razonar sobre ella en texto, junto al modelo base solo de texto. El entrenamiento usó un esquema por etapas que hizo crecer la ventana de contexto desde 2048 tokens hasta 8192. TII lo publicó bajo su propia TII Falcon License, una licencia permisiva basada en Apache 2.0 con una política de uso aceptable añadida, y afirmó que superaba al Llama 3 8B de Meta en varios benchmarks con un número de parámetros parecido.