Flan-T5
Sucesor de pesos abiertos de T5, de Google, ajustado con instrucciones
Flan-T5 es la versión de T5 ajustada con instrucciones de Google, su transformer de texto a texto anterior, publicada en octubre de 2022. En lugar de cambiar la arquitectura base, Google hizo fine-tuning de T5 en más de mil tareas formuladas como instrucciones, que cubrían traducción, resumen, razonamiento y clasificación en muchos idiomas. Ese fine-tuning lo hizo mucho más usable de entrada que el T5 simple, que necesitaba un ajuste específico de la tarea para rendir bien. Google publicó la familia en varios tamaños, desde una versión pequeña de 80 millones de parámetros hasta Flan-T5-XXL, de 11 000 millones, todos bajo la licencia Apache 2.0 y descargables gratis en Hugging Face. Su ventana de contexto de 512 tokens es corta para los estándares actuales, lo que lo limita a documentos y prompts breves. Sigue siendo una referencia habitual en investigación sobre ajuste con instrucciones y una opción ligera para equipos que quieren un modelo abierto y autoalojado para tareas de NLP sencillas, sin el coste de cómputo de un LLM solo decodificador más grande.