JetBrains เปิดตัว Mellum2.1 โมเดล AI สำหรับเขียนโปรแกรม เน้นการเขียนโค้ดแบบเอเจนต์
ตามรายงานของ IT之家 JetBrains ประกาศโมเดล AI สำหรับการเขียนโปรแกรม Mellum2.1 ในบล็อกโพสต์เมื่อวันที่ 8 ตุลาคม โดยเน้นการเพิ่มความสามารถในการเขียนโค้ดแบบเอเจนต์ ในฐานะนักพัฒนา ฉันติดตามโมเดลโอเพนซอร์สแบบนี้ที่สามารถรันในเครื่องได้อยู่เสมอ จึงขอสรุปประเด็นสำคัญไว้ที่นี่
โมเดลยังคงสถาปัตยกรรมของ Mellum2: เป็นโมเดลแบบ mixture of experts (MoE) ขนาด 12B โดยมี 2.5B พารามิเตอร์ที่ทำงานอยู่ และยังเผยแพร่ภายใต้ใบอนุญาต Apache 2.0 การเปลี่ยนแปลงสำคัญในการฝึกคือขั้นตอนการเรียนรู้แบบเสริมแรงหลังการ pretraining ซึ่งเดิมเป็นขั้นตอนปิดท้ายสั้น ๆ ได้ถูกขยายจนกลายเป็นส่วนหลักของการฝึก มีการเพิ่มข้อมูลด้านคณิตศาสตร์ การแข่งขันอัลกอริทึม วิทยาศาสตร์ การใช้เครื่องมือ และวิศวกรรมซอฟต์แวร์ พร้อมสร้างสภาพแวดล้อม RL ภายใน และในระหว่างการฝึกได้เปิดแซนด์บ็อกซ์หลายล้านตัวครอบคลุมหลายพันสภาพแวดล้อม ก่อนฝึกจะคัดกรองงานที่มีเทสต์บกพร่อง คำตอบตรวจสอบไม่ได้ หรือความยากไม่เหมาะสมออกไป
ตามคำอธิบายอย่างเป็นทางการ โมเดลสามารถสำรวจโค้ดเบส แก้ไขไฟล์ และตรวจสอบการแก้ไขของตัวเองได้ การปรับปรุงที่ใหญ่ที่สุดอยู่ที่การเขียนโค้ดแบบเอเจนต์: โมเดลสามารถระบุสาเหตุหลักของเทสต์ที่ล้มเหลว ร่างวิธีแก้ และตรวจสอบผลลัพธ์ได้ ด้านความเร็ว สถาปัตยกรรมไม่ได้เปลี่ยน แต่การทำนายหลายโทเค็น (MTP) ทำให้การสร้างผลลัพธ์สำหรับคำขอเดียวเร็วขึ้นประมาณ 1.6 เท่า เมื่อเทียบกับ Mellum2, Qwen3.5-9B และ Gemma 4 E4B ภายใต้เงื่อนไขการประเมินเดียวกัน อัตราการส่งออกของ Mellum2.1 บน H200 ตัวเดียวภายใต้โหลดสูงใกล้เคียงกับสองเท่าของ Qwen3.5-9B
โมเดลเผยแพร่บน Hugging Face และสามารถติดตั้งในเครื่องหรือในโครงสร้างพื้นฐานของตนเองได้ ทำให้บริษัทต่าง ๆ เก็บโค้ดและข้อมูลไว้ในสภาพแวดล้อมของตนเองได้ JetBrains วางแผนปล่อยเวอร์ชัน GGUF สำหรับ llama.cpp, Ollama และ LM Studio รวมถึงคอมโพเนนต์ MTP สำหรับ speculative decoding ใน vLLM
ฉันรอเวอร์ชัน GGUF อยู่ เพราะนักพัฒนาทั่วไปจะได้ลองใช้บนเครื่องของตัวเอง สำหรับโมเดลเขียนโค้ด คุณให้ความสำคัญกับอะไรมากกว่ากัน ระหว่างความแม่นยำกับค่าใช้จ่ายในการติดตั้ง?
ที่มา: IT之家
โมเดลยังคงสถาปัตยกรรมของ Mellum2: เป็นโมเดลแบบ mixture of experts (MoE) ขนาด 12B โดยมี 2.5B พารามิเตอร์ที่ทำงานอยู่ และยังเผยแพร่ภายใต้ใบอนุญาต Apache 2.0 การเปลี่ยนแปลงสำคัญในการฝึกคือขั้นตอนการเรียนรู้แบบเสริมแรงหลังการ pretraining ซึ่งเดิมเป็นขั้นตอนปิดท้ายสั้น ๆ ได้ถูกขยายจนกลายเป็นส่วนหลักของการฝึก มีการเพิ่มข้อมูลด้านคณิตศาสตร์ การแข่งขันอัลกอริทึม วิทยาศาสตร์ การใช้เครื่องมือ และวิศวกรรมซอฟต์แวร์ พร้อมสร้างสภาพแวดล้อม RL ภายใน และในระหว่างการฝึกได้เปิดแซนด์บ็อกซ์หลายล้านตัวครอบคลุมหลายพันสภาพแวดล้อม ก่อนฝึกจะคัดกรองงานที่มีเทสต์บกพร่อง คำตอบตรวจสอบไม่ได้ หรือความยากไม่เหมาะสมออกไป
ตามคำอธิบายอย่างเป็นทางการ โมเดลสามารถสำรวจโค้ดเบส แก้ไขไฟล์ และตรวจสอบการแก้ไขของตัวเองได้ การปรับปรุงที่ใหญ่ที่สุดอยู่ที่การเขียนโค้ดแบบเอเจนต์: โมเดลสามารถระบุสาเหตุหลักของเทสต์ที่ล้มเหลว ร่างวิธีแก้ และตรวจสอบผลลัพธ์ได้ ด้านความเร็ว สถาปัตยกรรมไม่ได้เปลี่ยน แต่การทำนายหลายโทเค็น (MTP) ทำให้การสร้างผลลัพธ์สำหรับคำขอเดียวเร็วขึ้นประมาณ 1.6 เท่า เมื่อเทียบกับ Mellum2, Qwen3.5-9B และ Gemma 4 E4B ภายใต้เงื่อนไขการประเมินเดียวกัน อัตราการส่งออกของ Mellum2.1 บน H200 ตัวเดียวภายใต้โหลดสูงใกล้เคียงกับสองเท่าของ Qwen3.5-9B
โมเดลเผยแพร่บน Hugging Face และสามารถติดตั้งในเครื่องหรือในโครงสร้างพื้นฐานของตนเองได้ ทำให้บริษัทต่าง ๆ เก็บโค้ดและข้อมูลไว้ในสภาพแวดล้อมของตนเองได้ JetBrains วางแผนปล่อยเวอร์ชัน GGUF สำหรับ llama.cpp, Ollama และ LM Studio รวมถึงคอมโพเนนต์ MTP สำหรับ speculative decoding ใน vLLM
ฉันรอเวอร์ชัน GGUF อยู่ เพราะนักพัฒนาทั่วไปจะได้ลองใช้บนเครื่องของตัวเอง สำหรับโมเดลเขียนโค้ด คุณให้ความสำคัญกับอะไรมากกว่ากัน ระหว่างความแม่นยำกับค่าใช้จ่ายในการติดตั้ง?
ที่มา: IT之家
ความคิดเห็น 0
เป็นคนแรกที่แสดงความคิดเห็น ด้วยภาษาใดก็ได้
เข้าสู่ระบบเพื่อแสดงความคิดเห็น