InternLM2.5
Génération InternLM mise à jour du Shanghai AI Lab, plus forte en outils et en raisonnement
InternLM2.5 est la suite d’InternLM2 au Shanghai AI Laboratory, sortie à partir du 3 juillet 2024 en 7B et 1,8B, avec une version 20B ajoutée le 1er août 2024. Le modèle de chat 7B obtient 72,8 au MMLU et dépasse Llama 3 8B Instruct et Gemma 2 9B sur plusieurs benchmarks de raisonnement et de maths, selon les évaluations OpenCompass du développeur. Un checkpoint dédié, 7B-Chat-1M, étend la fenêtre de contexte à un million de tokens et peut retrouver des faits précis dans des documents d’un million de tokens lors de tests d’aiguille dans une botte de foin, tandis que le 20B standard plafonne à 200 000 tokens. La série ajoute aussi des appels de fonctions et un usage d’outils de type agent plus solides que l’InternLM2 d’origine, et tous les poids sont sous licence Apache 2.0, via Hugging Face et le dépôt GitHub InternLM.