InternLM2.5
La generación InternLM actualizada del Shanghai AI Lab, con más fuerza en uso de herramientas y razonamiento
InternLM2.5 es la continuación de InternLM2 del Shanghai AI Laboratory, publicada a partir del 3 de julio de 2024 en tamaños de 7B y 1,8B, con una versión de 20B añadida el 1 de agosto de 2024. El modelo de chat de 7B obtiene 72,8 en MMLU y supera a Llama 3 8B Instruct y a Gemma 2 9B en varios benchmarks de razonamiento y matemáticas, según las propias evaluaciones OpenCompass de quien lo desarrolla. Un checkpoint dedicado, 7B-Chat-1M, extiende la ventana de contexto a un millón de tokens y puede localizar hechos concretos dentro de documentos de un millón de tokens en pruebas de aguja en un pajar, mientras que el modelo estándar de 20B llega como máximo a 200K tokens. La serie también añade llamadas a funciones y uso de herramientas al estilo de agentes más fuertes que el InternLM2 original, y todos los pesos se publican bajo la licencia Apache 2.0 en Hugging Face y en el repositorio de GitHub de InternLM.