Mistral Large 4-এ ১ ট্রিলিয়ন parameter—স্বাধীন পরীক্ষায় অবস্থান ৩২তম

Mistral AI-র ৬ অক্টোবরের উন্মোচন ঘোষণায় Mistral Large 4-এর পাবলিক প্রিভিউ চালুর কথা বলা হয়েছে; সেখানে মোট আকার প্রায় ১ ট্রিলিয়ন এবং সক্রিয় প্যারামিটার ৪৯ বিলিয়ন। কোম্পানির মডেল নথিতে মোট প্যারামিটার ১.০৫ ট্রিলিয়ন, সক্রিয় প্যারামিটার ৫২ বিলিয়ন এবং কনটেক্সট ১০ লাখ টোকেন দেখানো হয়েছে। একই নথিতে প্রতি ১০ লাখ টোকেনে এপিআই ইনপুটের প্রদর্শিত দর ০.৬৮ ডলার, ক্যাশে রাখা ইনপুটের ০.০৭ ডলার এবং আউটপুটের ২.০৯ ডলার। সক্রিয় প্যারামিটারের অঙ্কে কোম্পানির দুটি প্রকাশনার মধ্যে অমিল রয়েছে।

স্বাধীন Vals মূল্যায়নে Mistral Large 4 সামগ্রিক সূচকে ৪৮.০৫ শতাংশ পেয়ে পরীক্ষিত ৪৪টি মডেলের মধ্যে ৩২তম; কোড মাইগ্রেশনে ৭৪টির মধ্যে ৩৮তম, আর Harvey-এর আইনি এজেন্ট পরীক্ষায় ৭৫টির মধ্যে ষষ্ঠ। একই প্রোফাইলে কনটেক্সট ৫১২ হাজার টোকেন এবং প্রতি ১০ লাখ টোকেনে ইনপুট ও আউটপুট খরচ যথাক্রমে ১.৩৬ ও ৪.১৮ ডলার দেখানো হয়েছে। ফলে বড় মডেলের ঘোষণা, বর্তমানে প্রদর্শিত এপিআই দর এবং নির্দিষ্ট কাজে মাপা ফল—তিনটি আলাদা তথ্য নিয়ে প্রিভিউটির মূল্য বিচার করতে হচ্ছে।

ঘোষিত আকারে সক্রিয় অংশ কতটা গুরুত্বপূর্ণ

Mistral Large 4 মিশ্র-বিশেষজ্ঞ স্থাপত্য ব্যবহার করে। এ ধরনের মডেলে মোট প্যারামিটার সম্পূর্ণ কাঠামোর পরিসর বোঝায়, আর সক্রিয় প্যারামিটার একটি অনুরোধ প্রক্রিয়াকরণের সময় ব্যবহৃত অংশকে নির্দেশ করে। তাই মোট আকারকে প্রতিটি উত্তরে একই পরিমাণ গণনা চালানোর হিসাব বা উত্তরের মানের সরাসরি মাপকাঠি ধরা যায় না। ব্যবহারকারীর কাছে বড় সংখ্যাটির তাৎপর্য বোঝার জন্য নির্দিষ্ট কাজের ফল এবং সেবা চালানোর শর্তও দরকার।

সক্রিয় অংশের দুটি প্রকাশিত অঙ্ক একই মডেলকে নিয়ে, তাই পার্থক্যটি উপেক্ষা করার সুযোগ নেই। প্রকাশিত তথ্য এই ব্যবধানের কারণ ব্যাখ্যা করে না। মডেলের ওজন ও স্থাপত্যের বিস্তারিত প্রকাশিত হলে কোন সংজ্ঞা বা সংস্করণের ভিত্তিতে অঙ্ক দুটি দেওয়া হয়েছে, তা পরিষ্কার হতে পারে। আপাতত কোনো একটি অঙ্ক বেছে নিয়ে সেটিকে নিষ্পত্তিকৃত প্রযুক্তিগত বিবরণ হিসেবে উপস্থাপন করা ঠিক হবে না।

প্রিভিউতে লেখা ও ছবি ইনপুট দেওয়া যায় এবং মডেলটি লেখা তৈরি করে। কাঠামোবদ্ধ আউটপুট, ফাংশন কল, নথি নিয়ে প্রশ্নোত্তর, ব্যাচ প্রক্রিয়াকরণ ও এজেন্টভিত্তিক ব্যবহারের সুবিধাও তালিকাভুক্ত আছে। দীর্ঘ নথি থেকে তথ্য উদ্ধার কিংবা একাধিক ধাপের সফটওয়্যার প্রবাহে এগুলো প্রাসঙ্গিক। তবে কোনো সুবিধা এপিআইতে থাকা আর সেই সুবিধা দিয়ে প্রতিবার নির্ভুল কাজ শেষ হওয়া এক কথা নয়।

একই মডেলের ফল কাজে কাজে কেন আলাদা দেখাচ্ছে

সামগ্রিক সূচকের অবস্থান মডেলটির সব বিশেষায়িত কাজের ফল প্রকাশ করে না। আইনি এজেন্ট পরীক্ষায় তুলনামূলক উঁচু স্থানটি একটি নির্দিষ্ট কাজ ও মূল্যায়ন-পদ্ধতির ফল; বাস্তব আইনি নথিতে উদ্ধৃতি, যুক্তি ও প্রাসঙ্গিক তথ্য ঠিক আছে কি না, তার বিকল্প নয়। অন্যদিকে কোড মাইগ্রেশনের নিচের অবস্থান পুরোনো কোড নতুন পরিবেশে নেওয়ার কাজে কম আত্মবিশ্বাসের কারণ হতে পারে। সেখানে তৈরি কোড চললেই যথেষ্ট নয়—আগের আচরণ ও নির্ভরতাও অক্ষুণ্ণ রাখতে হয়।

আর্থিক এজেন্ট, আইনি গবেষণা এবং কোড মাইগ্রেশন আলাদা ধরনের কাজ মাপে। একটি পরীক্ষায় ভালো ফল অন্যটির ফলের সঙ্গে বিনিময়যোগ্য নয়, কারণ কাজের লক্ষ্য, উত্তর যাচাইয়ের পদ্ধতি ও পরীক্ষিত মডেলের সংখ্যাও বদলে যায়। প্রোফাইলটি আরও জানায়, কিছু পরীক্ষায় সেবাদাতা বা সেটিং আলাদা হতে পারে। ফলে সামগ্রিক অবস্থান দিয়ে নির্দিষ্ট কর্মপ্রবাহের পারফরম্যান্স অনুমান করলে সেই পার্থক্য হারিয়ে যায়।

এখানেই প্রিভিউটির মিশ্র চিত্র স্পষ্ট: বিশেষায়িত কিছু এজেন্ট কাজের ফল আগ্রহ জাগায়, কিন্তু সামগ্রিক স্থান কিংবা কোড মাইগ্রেশনের ফল বিস্তৃত সক্ষমতার দাবি সমানভাবে সমর্থন করে না। কোম্পানির নিজস্ব সক্ষমতার দাবি এবং স্বাধীন পরীক্ষার স্কোরও একই প্রশ্নের উত্তর দেয় না। এপিআই ব্যবহারকারীর জন্য সবচেয়ে প্রাসঙ্গিক তুলনা হলো যে ধরনের ইনপুট, আউটপুট ও কাজের ধাপ তাঁদের ব্যবহারে আছে, তার কাছাকাছি মূল্যায়নের ফল।

এপিআই দামে ও কনটেক্সটে অঙ্ক মিলছে না কেন

বর্তমানে প্রদর্শিত বিক্রেতার দর এবং পরীক্ষার প্রোফাইলে লেখা খরচ আলাদা; পার্থক্যের কারণ প্রকাশিত তথ্য থেকে নিশ্চিত করা যায় না। সরাসরি এপিআই ব্যবহারের বাজেট করতে বর্তমান প্রদর্শিত দর প্রাসঙ্গিক, আর পরীক্ষার প্রোফাইলের খরচ সেই মূল্যায়নের হিসাব বুঝতে সাহায্য করে। একটিকে অন্যটির বর্তমান বিল হিসেবে পড়লে খরচ সম্পর্কে ভুল ধারণা তৈরি হবে। বিশেষ করে দীর্ঘ উত্তর তৈরি হলে আউটপুটের পৃথক দর মোট ব্যয়ের বড় অংশ হতে পারে।

ক্যাশে রাখা ইনপুটের কম দরও সব অনুরোধে স্বয়ংক্রিয়ভাবে প্রযোজ্য হবে ধরে নেওয়া যায় না। কোনো ইনপুট পুনর্ব্যবহৃত হলো কি না, তার ওপর কার্যকর খরচ নির্ভর করে। একইভাবে মডেল নথিতে ঘোষিত দীর্ঘ কনটেক্সট এবং স্বাধীন প্রোফাইলে নথিবদ্ধ সীমা আলাদা। পরীক্ষার ফলকে ঘোষিত সম্পূর্ণ কনটেক্সট ব্যবহার করে পাওয়া ফল হিসেবে তাই ব্যাখ্যা করা যায় না।

বাংলাদেশ ও ভারতের ডেভেলপারদের জন্য প্রকাশিত ডলারভিত্তিক টোকেনদর মডেলের সরাসরি মূল্যতুলনার ভিত্তি দেয়। স্থানীয় মুদ্রায় পরিশোধের অঙ্ক বিনিময় হার ও বিল পরিশোধের ব্যবস্থার সঙ্গে বদলাবে। দীর্ঘ নথির কাজেও সর্বোচ্চ কনটেক্সটের ঘোষণা একাই যথেষ্ট তথ্য নয়: বড় ইনপুটে প্রাসঙ্গিক অংশ ধরে রাখা, কাঙ্ক্ষিত দৈর্ঘ্যের উত্তর পাওয়া এবং ভুলের কারণে অনুরোধ পুনরায় চালানোর প্রয়োজন—এসব মিলিয়েই ব্যবহারিক খরচ ও ফল নির্ধারিত হয়।

উন্মুক্ত ওজনের প্রতিশ্রুতি এখন কোন পর্যায়ে

এখন ব্যবহারযোগ্য সংস্করণটি পাবলিক এপিআই প্রিভিউ। ঘোষণায় মডেলের ওজন অক্টোবরের শেষ নাগাদ প্রকাশের পরিকল্পনা আছে; সেটিকে ইতিমধ্যে ডাউনলোডযোগ্য ওজনের প্রাপ্যতা ধরে নেওয়া যাবে না। ওজন হাতে এলে নিজস্ব অবকাঠামোয় চালানো বা পরিবর্তনের বাস্তব শর্ত বোঝা যাবে। তার আগে সেসব সম্ভাবনা বর্তমান এপিআই ব্যবহার থেকে পৃথক।

ওজন প্রকাশের আগে নিরাপত্তা মূল্যায়ন চলার কথাও কোম্পানি জানিয়েছে। একই সঙ্গে প্রিভিউর পেছনের প্রশিক্ষণ প্রক্রিয়া চলমান এবং পরবর্তী প্রকাশে স্থাপত্য, অতিরিক্ত বেঞ্চমার্ক ও প্রশিক্ষণ-পরবর্তী পদ্ধতির বিবরণ দেওয়ার পরিকল্পনা রয়েছে। তাই আজকের প্রিভিউর ফলকে ভবিষ্যতে প্রকাশিত ওজনের স্থায়ী ফল ধরে নেওয়ার ভিত্তি নেই। পরবর্তী গুরুত্বপূর্ণ তথ্য হবে প্রকাশিত ওজন, তার চালানোর শর্ত এবং নতুন মূল্যায়নে কাজভিত্তিক ফল কতটা বদলায়।

আরও পড়ুন:

• Mistral পেল €৩ বিলিয়ন—Samsung-এর অর্থের সঙ্গে এল শিল্প-ডেটার দরজা