InternLM2.5

InternLM2.5はShanghai AI LaboratoryのInternLM2後継モデルです。2024年7月3日から7B版と1.8B版を公開し、8月1日に20B版を追加しました。開発元のOpenCompass評価によると、7BチャットモデルはMMLUで72.8点を記録し、複数の推論・数学ベンチマークでLlama 3 8B InstructやGemma 2 9Bを上回りました。専用の7B-Chat-1Mチェックポイントはコンテキスト長を100万トークンに広げ、needle-in-a-haystackテストでは100万トークンの文書から特定の事実を見つけられます。一方、標準の20Bモデルは最大20万トークンです。初代InternLM2より関数呼び出しとエージェント型のツール利用も強化されました。すべての重みはApache 2.0ライセンスで、Hugging FaceとInternLMのGitHubリポジトリから公開されています。