DeepSeek-VL2
Offenes Vision-Language-Mixture-of-Experts-Modell von DeepSeek
DeepSeek-VL2 ist eine Familie von Vision-Language-Modellen, die DeepSeek am 13. Dezember 2024 als Nachfolger des Anfang desselben Jahres erschienenen DeepSeek-VL veröffentlichte. Sie umfasst drei Größen: Tiny, Small und VL2 mit insgesamt 3B, 16B und 27B Parametern sowie jeweils 1B, 2,8B und 4,5B aktiven Parametern. Zum Einsatz kommen dieselbe DeepSeekMoE- und Multi-head-Latent-Attention-Architektur wie bei den Sprachmodellen von DeepSeek. Durch dynamisches Kacheln kann das Modell hochauflösende Bilder mit unterschiedlichen Seitenverhältnissen verarbeiten, ohne Details zu verlieren. Das hilft unter anderem beim Lesen umfangreicher Dokumente, Diagramme und Screenshots.
Die Mixture-of-Experts-Architektur ermöglicht starke Ergebnisse bei visueller Fragebeantwortung, OCR und visueller Verankerung, während die Inferenz im Verhältnis zur Gesamtzahl der Parameter kostengünstig bleibt, da pro Eingabe nur wenige Experten aktiviert werden. Alle drei Größen wurden mit offenen Gewichten veröffentlicht. DeepSeek-VL2 gehörte damit zu den leistungsfähigeren offenen multimodalen Modellfamilien seiner Zeit.