IBM Bob এখন নিজস্ব অবকাঠামোয়—code বাইরে না পাঠিয়েও AI সহায়তা

IBM ৩০ সেপ্টেম্বর ২০২৬-এর ঘোষণায় IBM Bob-এর স্বনিয়ন্ত্রিত স্থাপনা সাধারণভাবে পাওয়া যাচ্ছে বলে জানিয়েছে। এতে প্রতিষ্ঠান নিজের পরিচালিত পরিবেশে Bob চালিয়ে সফটওয়্যার তৈরিতে এআই সহায়তা নিতে পারে। তবে কোডের তথ্য সেই পরিবেশের বাইরে যাবে কি না, তা নির্ভর করে মডেলটি কোথায় অনুরোধ প্রক্রিয়াকরণ করছে তার ওপর।

১ অক্টোবরের Bob পণ্য রিলিজ অনুযায়ী, সুবিধাটি ২৪ সেপ্টেম্বর ২০২৬ থেকে সাধারণভাবে পাওয়া যাচ্ছে; ব্যাকএন্ড চলে গ্রাহক পরিচালিত Red Hat OpenShift ক্লাস্টারে, নিজস্ব স্থাপনায় অথবা প্রতিষ্ঠানের ক্লাউড অ্যাকাউন্টে। একই রিলিজে বিচ্ছিন্ন নেটওয়ার্কের জন্য নিজস্ব জিপিইউতে চালানো NVIDIA Nemotron 3 Ultra ও Poolside Laguna S 2.1 মডেলের কথা রয়েছে। এই বিন্যাসে মডেলের অনুরোধ বাইরে পাঠানোর প্রয়োজন পড়ে না।

OpenShift-এ Bob-এর কোন অংশ চলে

স্বনিয়ন্ত্রিত স্থাপনায় প্রতিষ্ঠানের ক্লাস্টারে Bob-এর ব্যাকএন্ড থাকে; ডেভেলপাররা পরিচিত Bob IDE ও Bob Shell ব্যবহার করেন। ক্লায়েন্টগুলো প্রতিষ্ঠানের অভ্যন্তরীণ Bob সংযোগস্থলের সঙ্গে যুক্ত হয়। ফলে সেবার অবস্থান বদলালেও ডেভেলপারদের জন্য আলাদা সরঞ্জাম বা সম্পূর্ণ নতুন কাজের পদ্ধতি তৈরি করতে হয় না। অভ্যন্তরীণ সংযোগস্থলটি দলীয় নীতির মাধ্যমে ক্লায়েন্টে পৌঁছে দেওয়ার ব্যবস্থাও রয়েছে।

ব্যাকএন্ডের সঙ্গে পরিচয় যাচাই, মডেলে অনুরোধ পাঠানোর গেটওয়ে, Bob-এর নিরীক্ষা লগ ও ব্যবহার পরিমাপের ব্যবস্থা আসে। এগুলো OpenShift অপারেটরের মাধ্যমে স্থাপন ও হালনাগাদ করা যায়। পরিচয় সেবা প্রতিষ্ঠানের LDAP বা Active Directory-এর সঙ্গে যুক্ত করা সম্ভব, যাতে ডেভেলপাররা করপোরেট পরিচয়ে প্রবেশ করতে পারেন। Bob বিদ্যমান ক্লাস্টারে অন্য অ্যাপ্লিকেশনের পাশেও চলতে পারে, যদি প্রয়োজনীয় সক্ষমতা থাকে। এসব উপাদান ক্লাস্টারে রাখার সিদ্ধান্ত মডেলটিকেও সেখানে চালানোর সিদ্ধান্তের সমান নয়।

চার স্থাপন-পথে তথ্যের সীমা ও পরিচালনার দায়

প্রতিষ্ঠানের জন্য সিদ্ধান্তটি স্পষ্ট হয় ব্যাকএন্ডের অবস্থান, মডেলের গন্তব্য এবং পরিচালনার দায়িত্ব একসঙ্গে দেখলে। নিচের চারটি পথ সেই তুলনার জন্য সাজানো; এগুলো আলাদা মূল্যতালিকা নয়। ‘পরিচালনার ব্যয়’ বলতে এখানে লাইসেন্সের নির্দিষ্ট দাম নয়, অবকাঠামো, জিপিইউ, সংযোগ ও হালনাগাদ চালানোর কাজ বোঝানো হয়েছে।

• IBM-পরিচালিত ক্লাউড সেবা: Bob-এর ব্যাকএন্ড IBM চালায় এবং হালনাগাদ পৌঁছে দেয়। প্রতিষ্ঠানকে Bob-এর জন্য নিজস্ব OpenShift ক্লাস্টার পরিচালনা করতে হয় না। এই পথ অনুমোদিত ক্লাউড সেবায় কাজ করতে পারে এমন দলের অবকাঠামোগত দায়িত্ব কমায়; তথ্য প্রক্রিয়াকরণের সীমা নির্ধারিত হয় ব্যবহৃত সেবা ও তার শর্তে।
• প্রতিষ্ঠানের ক্লাউড অ্যাকাউন্টে স্বনিয়ন্ত্রিত Bob: ব্যাকএন্ড, পরিচয় সেবা ও Bob-এর নিরীক্ষা লগ প্রতিষ্ঠানের পরিচালিত OpenShift ক্লাস্টারে থাকে। অনুমোদিত ক্লাউড মডেল বাছলে অনুরোধের সঙ্গে থাকা কোডের প্রাসঙ্গিক তথ্য সেই মডেল সেবায় যায়। প্রতিষ্ঠান ক্লাস্টার ও সংযোগ চালায়, তবে এই বিন্যাসে নিজের জিপিইউতে মডেল চালানো বাধ্যতামূলক নয়।
• নিজস্ব স্থাপনায় সংযুক্ত পরিবেশ: Bob-এর ব্যাকএন্ড প্রতিষ্ঠানের নিজস্ব OpenShift ক্লাস্টারে চলে। মডেলও সেখানে চালালে অনুরোধ স্থানীয়ভাবে প্রক্রিয়াকরণ করা যায়; বাইরের অনুমোদিত মডেল বাছলে কোডের প্রাসঙ্গিক তথ্য সেই সেবায় পৌঁছায়। তাই ব্যাকএন্ড নিজেদের ভবনে থাকাই তথ্যের সম্পূর্ণ স্থানীয় প্রক্রিয়াকরণ নিশ্চিত করে না। ক্লাস্টার এবং নির্বাচিত মডেল সংযোগের দায়িত্ব প্রতিষ্ঠানের।
• বাইরের সংযোগহীন পরিবেশ: Bob-এর ব্যাকএন্ড ও সমর্থিত উন্মুক্ত ওজনের মডেল প্রতিষ্ঠানের অবকাঠামোয় চলে। মডেল নিজস্ব জিপিইউ ব্যবহার করে এবং অনুরোধ পাঠাতে বাইরের নেটওয়ার্ক সংযোগ লাগে না। প্রয়োজনীয় Bob ইমেজ ব্যক্তিগত রেজিস্ট্রিতে আনতে হয়। এই পথের সঙ্গে জিপিইউ সক্ষমতা, মডেল পরিবেশন, ক্লাস্টার ও হালনাগাদ পৌঁছে দেওয়ার কাজও যুক্ত হয়।

বিচ্ছিন্ন নেটওয়ার্কে মডেল নির্বাচন কেন বদলায়

বাইরের মডেল সেবায় পৌঁছানোর পথ বন্ধ থাকলে স্থানীয় ইনফারেন্সই Bob-এর জন্য প্রাসঙ্গিক বিকল্প। প্রতিষ্ঠানের নিজস্ব জিপিইউতে সমর্থিত মডেল চালাতে হয় এবং Bob-এর গেটওয়েকে সেই মডেলের সঙ্গে যুক্ত করতে হয়। প্রয়োজনীয় হার্ডওয়্যারের মাপ মডেল চালানোর বিন্যাস, অনুরোধে দেওয়া প্রসঙ্গের দৈর্ঘ্য এবং একই সময়ে কতজন ডেভেলপার কাজ করবেন, তার ওপর নির্ভর করে। তাই বিচ্ছিন্ন স্থাপনার খরচে Bob-এর অধিকার পাওয়ার পাশাপাশি মডেল চালানোর সক্ষমতাও ধরতে হয়।

সংযুক্ত স্বনিয়ন্ত্রিত পরিবেশে AWS Bedrock, Azure OpenAI, Google Vertex AI কিংবা সামঞ্জস্যপূর্ণ অন্য মডেল সেবা ব্যবহারের পথ রয়েছে। তখন Bob-এর ব্যাকএন্ড ও নিরীক্ষা লগ প্রতিষ্ঠানের ক্লাস্টারে থাকলেও মডেল অনুরোধে থাকা কোডের প্রাসঙ্গিক তথ্য নির্বাচিত ক্লাউড গন্তব্যে যায়। ব্যাংক, টেলিযোগাযোগ প্রতিষ্ঠান বা সরকারি সফটওয়্যার দলের ক্ষেত্রে তাই অনুমোদনের প্রশ্নটি শুধু ক্লাস্টারের অবস্থান নিয়ে নয়। যে মডেল অনুরোধ গ্রহণ করবে, তার অবস্থান ও প্রযোজ্য চুক্তিও তথ্যের সীমা নির্ধারণ করে।

অপারেটর থাকলেও হালনাগাদের দায়িত্ব কার

স্বনিয়ন্ত্রিত Bob-এর অপারেটর স্থাপন ও হালনাগাদের কাজ পরিচালনায় সহায়তা করে; ক্লাস্টারের পরিচালনার দায় থাকে প্রতিষ্ঠানের। Techopia-এর বিশ্লেষণে স্থানীয় নিয়ন্ত্রণের সঙ্গে সক্ষমতা, মডেল পরিবেশন, প্যাচ ও হালনাগাদের বাড়তি কাজের এই সম্পর্ক তুলে ধরা হয়েছে। স্থাপনের শুরুতে ক্লাস্টারজুড়ে প্রয়োজনীয় অনুমতি ও অপারেটর বসাতে প্রশাসনিক অধিকার লাগে। পরে নির্দিষ্ট নেমস্পেসে Bob স্থাপন, হালনাগাদ ও পুনর্বিন্যাসের কাজ সংশ্লিষ্ট দল করতে পারে।

Bob-এর নিরীক্ষা লগ ক্লাস্টারের মধ্যে পাওয়া যায়, তবে কারা সেগুলো দেখবেন, কত দিন রাখা হবে এবং প্রতিষ্ঠানের অন্যান্য নিরাপত্তা নথির সঙ্গে কীভাবে মিলবে, তা স্থানীয় পরিচালননীতির বিষয়। স্বনিয়ন্ত্রিত সংস্করণের অধিকার বিক্রয় দলের মাধ্যমে দেওয়া হয়; ক্লাউড সংস্করণের মতো সরাসরি চালু করার ব্যবস্থা এটি নয়। যেসব দলের কোডের প্রাসঙ্গিক তথ্য নিয়ন্ত্রিত পরিসর ছাড়তে পারে না, তাদের জন্য স্থানীয় মডেল ও তার পরিচালনার সক্ষমতা সিদ্ধান্তের কেন্দ্রে থাকবে। অনুমোদিত ক্লাউড মডেল ব্যবহার করা গেলে মডেল বাছাইয়ের সুযোগ বাড়ে; আর নিজস্ব ব্যাকএন্ড চালানোর দায় এড়াতে চাইলে IBM-পরিচালিত ক্লাউড সেবার সুবিধা থেকে যায়।

আরও পড়ুন:

• ZenHR পেল ৬০ লাখ ডলার—বেতনের আগাম সুবিধাও এখন HR platform-এর অংশ
• AIR পেল ৫ কোটি ডলার—AI agent-এর plugin এখন supply-chain ঝুঁকি
• AI data center-এর ঋণ বাইরে থাকলেও ঝুঁকি হারায় না—SPV-এর আসল হিসাব