JetBrains משיקה את Mellum2.1, מודל בינה מלאכותית לתכנות שמתמקד בתכנות סוכני
לפי IT之家, JetBrains הודיעה ב-8 באוקטובר, בפוסט בבלוג, על מודל הבינה המלאכותית לתכנות Mellum2.1, שמטרתו המרכזית היא לחזק תכנות סוכני. כמפתח אני עוקב בעניין אחרי מודלים פתוחים כאלה שאפשר להריץ מקומית, ולכן אני מסכם כאן את עיקרי הדברים.
המודל שומר על הארכיטקטורה של Mellum2: מדובר במודל מסוג mixture of experts (MoE) בגודל 12 מיליארד פרמטרים, מתוכם 2.5 מיליארד פעילים, ועדיין מופץ ברישיון Apache 2.0. השינוי המרכזי באימון הוא שלב הלמידה החיזוקית שאחרי האימון המקדים הורחב משלב סיום קצר לחלק המרכזי של האימון. נוספו נתונים במתמטיקה, בתחרויות אלגוריתמים, במדעים, בשימוש בכלים ובהנדסת תוכנה, נבנו סביבות למידה חיזוקית פנימיות, ובמהלך האימון הופעלו מיליוני sandbox על פני אלפי סביבות. לפני האימון מסננים משימות עם מבחנים פגומים, תשובות שאי אפשר לאמת או רמת קושי לא מתאימה.
לפי התיאור הרשמי, המודל יכול לחקור בסיסי קוד, לערוך קבצים ולבדוק את השינויים שלו. השיפור הגדול ביותר נוגע לתכנות סוכני: הוא מזהה את שורש הכשל של מבחנים שנכשלים, מנסח תיקון ומאמת את התוצאה. מבחינת מהירות הארכיטקטורה לא השתנתה, אבל חיזוי רב-טוקנים (MTP) מאיץ את היצירה לבקשה בודדת בכ-1.6 פעמים. בהשוואה ל-Mellum2, ל-Qwen3.5-9B ול-Gemma 4 E4B באותם תנאי הערכה, תפוקת הפלט של Mellum2.1 על H200 בודד תחת עומס גבוה קרובה לכפליים מזו של Qwen3.5-9B.
המודל זמין ב-Hugging Face וניתן לפרוס אותו מקומית או בתשתית משלכם, כך שחברות יכולות לשמור את הקוד והנתונים שלהן בסביבה שלהן. JetBrains מתכננת להוציא גרסאות GGUF עבור llama.cpp, Ollama ו-LM Studio, וכן רכיב MTP לפענוח ספקולטיבי ב-vLLM.
אני מחכה לגרסת GGUF, כי אז מפתחים רגילים יוכלו לנסות אותו על המחשב שלהם. מה חשוב לכם יותר במודל לתכנות: הדיוק או עלות הפריסה?
מקור: IT之家
המודל שומר על הארכיטקטורה של Mellum2: מדובר במודל מסוג mixture of experts (MoE) בגודל 12 מיליארד פרמטרים, מתוכם 2.5 מיליארד פעילים, ועדיין מופץ ברישיון Apache 2.0. השינוי המרכזי באימון הוא שלב הלמידה החיזוקית שאחרי האימון המקדים הורחב משלב סיום קצר לחלק המרכזי של האימון. נוספו נתונים במתמטיקה, בתחרויות אלגוריתמים, במדעים, בשימוש בכלים ובהנדסת תוכנה, נבנו סביבות למידה חיזוקית פנימיות, ובמהלך האימון הופעלו מיליוני sandbox על פני אלפי סביבות. לפני האימון מסננים משימות עם מבחנים פגומים, תשובות שאי אפשר לאמת או רמת קושי לא מתאימה.
לפי התיאור הרשמי, המודל יכול לחקור בסיסי קוד, לערוך קבצים ולבדוק את השינויים שלו. השיפור הגדול ביותר נוגע לתכנות סוכני: הוא מזהה את שורש הכשל של מבחנים שנכשלים, מנסח תיקון ומאמת את התוצאה. מבחינת מהירות הארכיטקטורה לא השתנתה, אבל חיזוי רב-טוקנים (MTP) מאיץ את היצירה לבקשה בודדת בכ-1.6 פעמים. בהשוואה ל-Mellum2, ל-Qwen3.5-9B ול-Gemma 4 E4B באותם תנאי הערכה, תפוקת הפלט של Mellum2.1 על H200 בודד תחת עומס גבוה קרובה לכפליים מזו של Qwen3.5-9B.
המודל זמין ב-Hugging Face וניתן לפרוס אותו מקומית או בתשתית משלכם, כך שחברות יכולות לשמור את הקוד והנתונים שלהן בסביבה שלהן. JetBrains מתכננת להוציא גרסאות GGUF עבור llama.cpp, Ollama ו-LM Studio, וכן רכיב MTP לפענוח ספקולטיבי ב-vLLM.
אני מחכה לגרסת GGUF, כי אז מפתחים רגילים יוכלו לנסות אותו על המחשב שלהם. מה חשוב לכם יותר במודל לתכנות: הדיוק או עלות הפריסה?
מקור: IT之家
תגובות 0
הניחו את התגובה הראשונה, בכל שפה.
התחברו כדי להגיב