DeepSeek Coder V2
Modèle à mélange d'experts de DeepSeek, à poids ouverts et spécialisé dans le code
DeepSeek-Coder-V2 est le modèle de code de deuxième génération de DeepSeek, sorti en juin 2024. C’est un mélange d’experts, avec 236 milliards de paramètres au total et 21 milliards actifs par token. La fenêtre de contexte passe à 128 000 tokens, très au-dessus des 16 000 du DeepSeek-Coder d’origine, et la couverture va de 86 à 338 langages de programmation. Sur HumanEval, il a obtenu 90,2 %. DeepSeek présentait alors ce score comme un rapprochement avec des modèles fermés comme GPT-4 Turbo sur les tâches de code. Il progressait aussi, par rapport à son prédécesseur, sur les benchmarks de raisonnement général et de maths. Contrairement à la licence plus restrictive du DeepSeek-Coder d’origine, DeepSeek-Coder-V2 est sous licence MIT, donc utilisable librement pour des projets commerciaux. Les poids sont sur Hugging Face, avec un accès API via la plateforme de DeepSeek.