JetBrains stellt Mellum2.1 vor, ein KI-Modell für Programmierung mit Fokus auf agentisches Coding
Laut IT之家hat JetBrains am 8. Oktober in einem Blogbeitrag das KI-Programmiermodell Mellum2.1 angekündigt, das vor allem agentisches Coding stärken soll. Als Entwickler verfolge ich solche offenen Modelle, die sich lokal betreiben lassen, mit Interesse. Deshalb fasse ich hier die wichtigsten Punkte zusammen.
Das Modell übernimmt die Architektur von Mellum2: Es ist ein Mixture-of-Experts-Modell (MoE) mit 12 Milliarden Parametern, von denen 2,5 Milliarden aktiv sind, und bleibt unter der Apache-2.0-Lizenz. Die größte Änderung beim Training: Die Reinforcement-Learning-Phase nach dem Pretraining wurde von einem kurzen Feinschliff zum Kernstück des Trainings ausgebaut. JetBrains hat Daten zu Mathematik, algorithmischen Wettbewerben, Naturwissenschaften, Tool-Nutzung und Softwareentwicklung ergänzt und interne RL-Umgebungen aufgebaut. Dabei wurden während des Trainings Millionen von Sandboxes über Tausende Umgebungen gestartet. Vor dem Training werden Aufgaben mit fehlerhaften Tests, nicht überprüfbaren Antworten oder ungeeignetem Schwierigkeitsgrad aussortiert.
Laut offizieller Beschreibung kann es Codebasen erkunden, Dateien bearbeiten und die eigenen Änderungen prüfen. Die größte Verbesserung betrifft das agentische Coding: Es kann die Ursache fehlschlagender Tests finden, eine Korrektur entwerfen und das Ergebnis überprüfen. Bei der Geschwindigkeit bleibt die Architektur gleich, aber durch Multi-Token-Vorhersage (MTP) wird die Generierung bei einzelnen Anfragen etwa 1,6-mal schneller. Im Vergleich mit Mellum2, Qwen3.5-9B und Gemma 4 E4B unter gleichen Testbedingungen liegt der Ausgabedurchsatz von Mellum2.1 auf einer einzelnen H200 bei hoher Last nahe dem Doppelten von Qwen3.5-9B.
Das Modell ist auf Hugging Face verfügbar und lässt sich lokal oder auf eigener Infrastruktur betreiben, sodass Unternehmen Code und Daten in der eigenen Umgebung behalten können. Geplant sind GGUF-Versionen für llama.cpp, Ollama und LM Studio sowie eine MTP-Komponente für spekulatives Decodieren in vLLM.
Auf die GGUF-Version freue ich mich besonders, denn dann könnten auch normale Entwickler es auf dem eigenen Rechner ausprobieren. Was ist euch bei einem Coding-Modell wichtiger: die Genauigkeit oder die Betriebskosten?
Quelle: IT之家
Das Modell übernimmt die Architektur von Mellum2: Es ist ein Mixture-of-Experts-Modell (MoE) mit 12 Milliarden Parametern, von denen 2,5 Milliarden aktiv sind, und bleibt unter der Apache-2.0-Lizenz. Die größte Änderung beim Training: Die Reinforcement-Learning-Phase nach dem Pretraining wurde von einem kurzen Feinschliff zum Kernstück des Trainings ausgebaut. JetBrains hat Daten zu Mathematik, algorithmischen Wettbewerben, Naturwissenschaften, Tool-Nutzung und Softwareentwicklung ergänzt und interne RL-Umgebungen aufgebaut. Dabei wurden während des Trainings Millionen von Sandboxes über Tausende Umgebungen gestartet. Vor dem Training werden Aufgaben mit fehlerhaften Tests, nicht überprüfbaren Antworten oder ungeeignetem Schwierigkeitsgrad aussortiert.
Laut offizieller Beschreibung kann es Codebasen erkunden, Dateien bearbeiten und die eigenen Änderungen prüfen. Die größte Verbesserung betrifft das agentische Coding: Es kann die Ursache fehlschlagender Tests finden, eine Korrektur entwerfen und das Ergebnis überprüfen. Bei der Geschwindigkeit bleibt die Architektur gleich, aber durch Multi-Token-Vorhersage (MTP) wird die Generierung bei einzelnen Anfragen etwa 1,6-mal schneller. Im Vergleich mit Mellum2, Qwen3.5-9B und Gemma 4 E4B unter gleichen Testbedingungen liegt der Ausgabedurchsatz von Mellum2.1 auf einer einzelnen H200 bei hoher Last nahe dem Doppelten von Qwen3.5-9B.
Das Modell ist auf Hugging Face verfügbar und lässt sich lokal oder auf eigener Infrastruktur betreiben, sodass Unternehmen Code und Daten in der eigenen Umgebung behalten können. Geplant sind GGUF-Versionen für llama.cpp, Ollama und LM Studio sowie eine MTP-Komponente für spekulatives Decodieren in vLLM.
Auf die GGUF-Version freue ich mich besonders, denn dann könnten auch normale Entwickler es auf dem eigenen Rechner ausprobieren. Was ist euch bei einem Coding-Modell wichtiger: die Genauigkeit oder die Betriebskosten?
Quelle: IT之家
Kommentare 0
Schreib den ersten Kommentar, in jeder Sprache.
Zum Kommentieren anmelden