DeepSeek-Coder-33B
Früheres Programmier-Flaggschiffmodell von DeepSeek vor DeepSeek-Coder-V2
DeepSeek-Coder-33B ist ein Programmiermodell, das DeepSeek im November 2023 veröffentlichte, bevor das Unternehmen durch spätere Schlussfolgerungsmodelle bekannt wurde. Es wurde von Grund auf mit zwei Billionen Tokens trainiert, überwiegend Code und natürlicher Sprache. Das Kontextfenster umfasst 16.000 Tokens; projektbezogenes Training ermöglicht Schlussfolgerungen über mehrere Dateien statt einzelner Ausschnitte. Die instruktionsoptimierte Variante erzielte bei HumanEval 79,3 Prozent pass@1 und lag damit vor den meisten damaligen offenen Code-Modellen sowie nahe an GPT-3.5. Sie unterstützt Fill-in-the-Middle-Vervollständigung für Code-Editoren und zahlreiche Programmiersprachen. DeepSeek-Coder-V2 mit größerem MoE-Modell und Kontextfenster hat sie inzwischen abgelöst. Die 33B-Variante bleibt für selbst gehosteten Betrieb auf Hugging Face verfügbar.