JetBrains এজেন্টিক প্রোগ্রামিংয়ে জোর দিয়ে Mellum2.1 নামের প্রোগ্রামিং এআই মডেল প্রকাশ করেছে
IT之家-এর প্রতিবেদন অনুযায়ী JetBrains ৮ অক্টোবর একটি ব্লগ পোস্টে প্রোগ্রামিং এআই মডেল Mellum2.1 ঘোষণা করেছে, যার মূল লক্ষ্য এজেন্টিক কোডিং সক্ষমতা জোরদার করা। ডেভেলপার হিসেবে স্থানীয়ভাবে চালানো যায় এমন এ ধরনের ওপেন মডেলের প্রতি আমার আগ্রহ আছে, তাই মূল বিষয়গুলো এখানে গুছিয়ে রাখছি।
মডেলটি Mellum2-এর আর্কিটেকচার ধরে রেখেছে: এটি ১২ বিলিয়ন প্যারামিটারের একটি মিক্সচার-অফ-এক্সপার্টস (MoE) মডেল, যার মধ্যে ২.৫ বিলিয়ন প্যারামিটার সক্রিয়, আর এটি এখনও Apache 2.0 লাইসেন্সে প্রকাশিত হচ্ছে। প্রশিক্ষণে সবচেয়ে বড় পরিবর্তন হলো প্রি-ট্রেনিংয়ের পরের রিইনফোর্সমেন্ট লার্নিং ধাপটি, যা আগে ছোট একটি শেষ ধাপ ছিল, এখন প্রশিক্ষণের মূল অংশে পরিণত হয়েছে। গণিত, অ্যালগরিদম প্রতিযোগিতা, বিজ্ঞান, টুল ব্যবহার ও সফটওয়্যার ইঞ্জিনিয়ারিংয়ের তথ্য যোগ করা হয়েছে এবং অভ্যন্তরীণ আরএল পরিবেশ তৈরি করা হয়েছে; প্রশিক্ষণের সময় হাজার হাজার পরিবেশজুড়ে লাখ লাখ স্যান্ডবক্স চালু করা হয়েছিল। প্রশিক্ষণের আগে ত্রুটিপূর্ণ টেস্ট, যাচাই করা যায় না এমন উত্তর বা অনুপযুক্ত কঠিনতার কাজ বাদ দেওয়া হয়।
সরকারি বর্ণনা অনুযায়ী, এটি কোডবেস ঘেঁটে দেখতে পারে, ফাইল সম্পাদনা করতে পারে এবং নিজের পরিবর্তন যাচাই করতে পারে। সবচেয়ে বড় উন্নতি এজেন্টিক কোডিংয়ে: ব্যর্থ টেস্টের মূল কারণ খুঁজে বের করতে পারে, একটি সমাধানের খসড়া তৈরি করতে পারে এবং ফলাফল যাচাই করতে পারে। গতির দিক থেকে আর্কিটেকচার বদলায়নি, তবে মাল্টি-টোকেন প্রেডিকশন (MTP) একক অনুরোধের ক্ষেত্রে জেনারেশনকে প্রায় ১.৬ গুণ দ্রুত করেছে। একই মূল্যায়ন সেটিংয়ে Mellum2, Qwen3.5-9B ও Gemma 4 E4B-র সঙ্গে তুলনায়, বেশি লোডে একটি H200-এ Mellum2.1-এর আউটপুট থ্রুপুট Qwen3.5-9B-র প্রায় দ্বিগুণের কাছাকাছি।
মডেলটি Hugging Face-এ পাওয়া যায় এবং স্থানীয়ভাবে বা নিজের অবকাঠামোয় ডেপ্লয় করা যায়, ফলে প্রতিষ্ঠানগুলো তাদের কোড ও তথ্য নিজেদের পরিবেশেই রাখতে পারে। JetBrains llama.cpp, Ollama ও LM Studio-র জন্য GGUF সংস্করণ এবং vLLM-এর জন্য একটি MTP স্পেকুলেটিভ ডিকোডিং উপাদান প্রকাশের পরিকল্পনা করছে।
GGUF সংস্করণের জন্য আমি অপেক্ষা করছি, কারণ তখন সাধারণ ডেভেলপাররাও নিজেদের কম্পিউটারে এটি পরীক্ষা করতে পারবেন। কোডিং মডেলের ক্ষেত্রে আপনার কাছে কোনটি বেশি গুরুত্বপূর্ণ: নির্ভুলতা, নাকি ডেপ্লয়মেন্টের খরচ?
সূত্র: IT之家
মডেলটি Mellum2-এর আর্কিটেকচার ধরে রেখেছে: এটি ১২ বিলিয়ন প্যারামিটারের একটি মিক্সচার-অফ-এক্সপার্টস (MoE) মডেল, যার মধ্যে ২.৫ বিলিয়ন প্যারামিটার সক্রিয়, আর এটি এখনও Apache 2.0 লাইসেন্সে প্রকাশিত হচ্ছে। প্রশিক্ষণে সবচেয়ে বড় পরিবর্তন হলো প্রি-ট্রেনিংয়ের পরের রিইনফোর্সমেন্ট লার্নিং ধাপটি, যা আগে ছোট একটি শেষ ধাপ ছিল, এখন প্রশিক্ষণের মূল অংশে পরিণত হয়েছে। গণিত, অ্যালগরিদম প্রতিযোগিতা, বিজ্ঞান, টুল ব্যবহার ও সফটওয়্যার ইঞ্জিনিয়ারিংয়ের তথ্য যোগ করা হয়েছে এবং অভ্যন্তরীণ আরএল পরিবেশ তৈরি করা হয়েছে; প্রশিক্ষণের সময় হাজার হাজার পরিবেশজুড়ে লাখ লাখ স্যান্ডবক্স চালু করা হয়েছিল। প্রশিক্ষণের আগে ত্রুটিপূর্ণ টেস্ট, যাচাই করা যায় না এমন উত্তর বা অনুপযুক্ত কঠিনতার কাজ বাদ দেওয়া হয়।
সরকারি বর্ণনা অনুযায়ী, এটি কোডবেস ঘেঁটে দেখতে পারে, ফাইল সম্পাদনা করতে পারে এবং নিজের পরিবর্তন যাচাই করতে পারে। সবচেয়ে বড় উন্নতি এজেন্টিক কোডিংয়ে: ব্যর্থ টেস্টের মূল কারণ খুঁজে বের করতে পারে, একটি সমাধানের খসড়া তৈরি করতে পারে এবং ফলাফল যাচাই করতে পারে। গতির দিক থেকে আর্কিটেকচার বদলায়নি, তবে মাল্টি-টোকেন প্রেডিকশন (MTP) একক অনুরোধের ক্ষেত্রে জেনারেশনকে প্রায় ১.৬ গুণ দ্রুত করেছে। একই মূল্যায়ন সেটিংয়ে Mellum2, Qwen3.5-9B ও Gemma 4 E4B-র সঙ্গে তুলনায়, বেশি লোডে একটি H200-এ Mellum2.1-এর আউটপুট থ্রুপুট Qwen3.5-9B-র প্রায় দ্বিগুণের কাছাকাছি।
মডেলটি Hugging Face-এ পাওয়া যায় এবং স্থানীয়ভাবে বা নিজের অবকাঠামোয় ডেপ্লয় করা যায়, ফলে প্রতিষ্ঠানগুলো তাদের কোড ও তথ্য নিজেদের পরিবেশেই রাখতে পারে। JetBrains llama.cpp, Ollama ও LM Studio-র জন্য GGUF সংস্করণ এবং vLLM-এর জন্য একটি MTP স্পেকুলেটিভ ডিকোডিং উপাদান প্রকাশের পরিকল্পনা করছে।
GGUF সংস্করণের জন্য আমি অপেক্ষা করছি, কারণ তখন সাধারণ ডেভেলপাররাও নিজেদের কম্পিউটারে এটি পরীক্ষা করতে পারবেন। কোডিং মডেলের ক্ষেত্রে আপনার কাছে কোনটি বেশি গুরুত্বপূর্ণ: নির্ভুলতা, নাকি ডেপ্লয়মেন্টের খরচ?
সূত্র: IT之家
মন্তব্য 0
যেকোনো ভাষায় প্রথম মন্তব্যটি করুন।
মন্তব্য করতে লগ ইন করুন