Microsoft نے AI agents کو اندرونی خطرہ کہا—Guardian Agents نگرانی کریں گے

Microsoft نے 19 اکتوبر 2026 کو Project Perception کی توسیع اور Guardian Agents کے تعارف کا اعلان کیا۔ مقصد اداروں کے اندر تعینات AI agents کی سرگرمی اور بدلتے خطرے پر مسلسل نظر رکھنا ہے، تاکہ ضرورت پڑنے پر ان کا اختیار محدود کیا جا سکے یا ان کا عمل روکا جا سکے۔ اعلان کا بنیادی اصول یہ ہے کہ ایجنٹ کو ادارے نے خود نصب کیا ہو تب بھی اس کے حفاظتی فیصلے ماڈل کے اپنے قابو میں نہیں رہنے چاہییں۔

TechCrunch کی 19 اکتوبر کی رپورٹ نے Guardian Agents کو Project Perception کا حصہ اور ادارے کے استعمال شدہ ایجنٹس کی نگرانی کا نیا فیچر بتایا؛ اس نے Microsoft کی سیکیورٹی سربراہ Hayete Gallot کا یہ جملہ بھی نقل کیا: “frontier models, regardless of their origin, cannot be trusted”۔ ان کا استدلال ہے کہ ماڈل کام مکمل کرنے کے لیے تربیت پاتے ہیں، مگر کسی ادارے کی اجازتوں، ترجیحات اور فیصلے کے معیار کو لازماً نہیں سمجھتے۔ اس لیے کاروباری سوال صرف یہ نہیں کہ ایجنٹ کیا کر سکتا ہے، بلکہ یہ بھی ہے کہ اس کی کارروائی کو کون دیکھتا اور روکتا ہے۔

اندر تعینات ایجنٹ خطرہ کیوں ہے؟

ایجنٹ کو مفید کام کے لیے کمپنی کے ڈیٹا، سافٹ ویئر، آلات یا دوسرے ایجنٹس تک رسائی مل سکتی ہے۔ اسی مجاز رسائی سے خطرہ پیدا ہوتا ہے: کام کے دوران اسے غلط ہدایت مل سکتی ہے، ناقابلِ اعتماد متن اس کے فیصلے پر اثر ڈال سکتا ہے، یا وہ مقررہ مقصد سے ہٹ کر کوئی کارروائی کر سکتا ہے۔ اس کے لیے بیرونی حملہ آور کا ایجنٹ پر قبضہ کرنا ضروری نہیں۔ یہاں «اندرونی» سے مراد ملازم جیسی نیت نہیں، بلکہ ادارے کے اپنے نظام میں موجود رسائی اور عمل کرنے کی صلاحیت ہے۔

مثال کے طور پر اخراجات کی درخواستیں نمٹانے والے ایجنٹ کو درخواست پڑھنے، قواعد دیکھنے اور معمول کی منظوری دینے کا محدود اختیار درکار ہو سکتا ہے۔ اگر اسے اپنے سرپرست ملازم کی پوری مستقل رسائی مل جائے تو ایک مخصوص کام کی اجازت دوسرے وسائل تک بھی پھیل سکتی ہے۔ کام شروع ہوتے وقت مناسب اختیار بھی بعد میں زیادہ ہو سکتا ہے: درخواست میں موجود ناقابلِ اعتماد مواد ایجنٹ کو غیر متعلقہ عمل کی طرف لے جائے تو خطرہ اسی کام کے دوران بدل جاتا ہے۔

Guardian Agents کی نگرانی کہاں تک جاتی ہے؟

Project Perception کے اعلان کردہ ڈھانچے میں شناخت، اجازت، ڈیٹا، آلات، نیٹ ورک، کلاؤڈ اور ایجنٹ کے چلنے کے ماحول سے آنے والے اشارے خطرے کے جائزے میں شامل ہوتے ہیں۔ Guardian Agents اس بدلتی صورتِ حال کے شواہد دیکھنے، خطرہ بڑھنے کی وجہ سمجھنے اور مناسب حفاظتی کارروائی تجویز کرنے یا نافذ کرنے میں سیکیورٹی عملے کی مدد کے لیے پیش کیے گئے ہیں۔ انسان پالیسی، منظوری کی حد اور سپرد کردہ اختیار طے کرتے ہیں؛ Playbooks ان حدود کے اندر حفاظتی کام کی ترتیب بناتے ہیں۔

اس نگرانی کی افادیت صرف خطرے کا انتباہ دینے میں نہیں۔ کارروائی کا سراغ یہ بتانا چاہیے کہ کس ایجنٹ نے کیا کرنے کی کوشش کی، اس وقت اس کا کام اور اختیار کیا تھا، اور پابندی کس وجہ سے بدلی۔ یہ ریکارڈ سیکیورٹی عملے کو واقعے کا جائزہ لینے اور پالیسی درست کرنے میں مدد دے سکتا ہے۔ روک تھام تبھی مؤثر ہوگی جب متعلقہ نظام اشارے فراہم کرے اور پابندی اس مقام پر نافذ ہو جہاں ایجنٹ واقعی ڈیٹا پڑھتا یا کوئی عمل انجام دیتا ہے۔

شناخت اور اختیار ماڈل سے الگ کیسے رہیں گے؟

ایجنٹ کی اپنی شناخت اسے استعمال کرنے والے شخص کی شناخت سے الگ ہونی چاہیے۔ اس فرق سے ادارہ ایجنٹ کے مالک، مقصد، سرگرمی اور اجازت کو ایک ہی انسان کے کھاتے میں ضم کیے بغیر دیکھ سکتا ہے۔ Microsoft Entra Agent ID اسی شناخت کو پالیسی اور جواب دہی سے جوڑنے کے لیے بیان کیا گیا ہے۔ نئی دریافت ہونے والی یا مقامی طور پر چلنے والی اقسام کے ایجنٹس کو بھی شناخت دینے کا منصوبہ اس لیے اہم ہے کہ مرکزی تعیناتی کے عمل سے باہر آنے والا ایجنٹ بھی حفاظتی پالیسی کے دائرے میں آ سکے۔

Dynamic Permissions کا اعلان کردہ طریقہ ایجنٹ کو منظور شدہ کام کے لیے ضروری، محدود مدت کا اختیار دیتا ہے۔ ادارے کی پالیسی اس کی بیرونی حد مقرر کرتی ہے، جبکہ زیادہ اثر رکھنے والی کارروائی کے لیے قابلِ تصدیق انسانی منظوری درکار ہو سکتی ہے۔ اس اصول کا اطلاق کسی بھی ایجنٹ پلیٹ فارم پر سوچا جا سکتا ہے: ملازم کی تمام مستقل اجازتیں ایجنٹ کو منتقل کرنے کے بجائے اس کے کام، مدت اور ممکنہ اثر کے مطابق الگ اختیار نافذ کیا جائے۔ البتہ Dynamic Permissions، Microsoft کے اعلان کردہ مخصوص کنٹرول کا نام ہے۔

ایجنٹ کا چلنے کا ماحول بھی حفاظتی حد کا حصہ ہے۔ بیان کردہ Microsoft Execution Container کا مقصد وسائل تک پالیسی کے تحت رسائی دینا اور نگرانی و نفاذ کو ایجنٹ کی پہنچ سے باہر رکھنا ہے۔ آلات، دوسرے ایجنٹس اور بیرونی وسائل تک راستے بھی پالیسی سے گزرنے چاہییں؛ صرف مطلوبہ منزل کی اجازت کافی نہیں، کیونکہ ایجنٹ کو وہاں ملنے والا مواد بھی اس کا رویہ بدل سکتا ہے۔ بنیادی شرط یہ ہے کہ جس ماڈل کی سرگرمی جانچی جا رہی ہو وہ اپنے ہی حفاظتی کنٹرول بند یا تبدیل نہ کر سکے۔

خطرہ بڑھے تو کیا روکا جائے گا؟

Dynamic Agent Risk ایجنٹ کی ترتیب، دستیاب وسائل، سرگرمی اور مختلف حفاظتی اشاروں سے اس کا موجودہ خطرہ جانچنے کے لیے پیش کیا گیا ہے۔ یہ ابتدائی تعیناتی پر لگا مستقل نشان نہیں؛ کام کے دوران نئے شواہد سے جائزہ بدل سکتا ہے۔ Dynamic Conditional Access اس تبدیلی کو اجازت کے فیصلے سے جوڑتا ہے، اس لیے ردعمل ہر بار پورا ایجنٹ بند کرنا نہیں ہوگا۔ پالیسی پڑھنے کی اجازت برقرار رکھتے ہوئے تبدیلی یا منظوری روک سکتی ہے، دستیاب وسائل اور نیٹ ورک کے راستے محدود کر سکتی ہے، یا اہم عمل سے پہلے انسانی منظوری مانگ سکتی ہے۔

اخراجات کی منظوری والا منظر اسی فرق کو واضح کرتا ہے۔ اگر ایجنٹ غیر متعلقہ کارروائی کرنے لگے تو نظام درخواست پڑھنے کی اجازت جاری رکھ کر منظوری کا اختیار واپس لے سکتا ہے؛ خطرہ مزید بڑھے تو اس کا چلتا عمل الگ یا بند کیا جا سکتا ہے۔ یہ اعلان میں دیا گیا حفاظتی منظرنامہ ہے، کسی صارف کے حقیقی ماحول میں کامیاب روک تھام کی رپورٹ نہیں۔ کاروباری ادارے کے لیے فیصلہ کن بات اس تفریق میں ہے کہ خطرہ جانچنے والا نظام کیا دیکھتا ہے اور اختیار نافذ کرنے والا نظام واقعی کون سا عمل روک سکتا ہے۔

اعلان کے بعد دستیابی کی حد

Microsoft Learn کی Red Team Agents دستاویز Project Perception کو محدود عوامی پیش منظر میں، دعوت کے ذریعے منتخب صارفین کے لیے دستیاب بتاتی ہے۔ یہ دستاویز نئی Guardian Agents توسیع سے پہلے کی صلاحیتوں سے متعلق ہے، اس لیے اس سے Guardian Agents کی موجودہ دستیابی یا تجارتی اجرا کی تاریخ اخذ نہیں کی جا سکتی۔ اکتوبر کے اعلان میں ان کے کام اور حفاظتی ڈھانچے کی وضاحت ہے، مگر وسیع تعیناتی کے نتائج پیش نہیں کیے گئے۔

پہلے سے AI agents چلانے والے ادارے کے لیے فوری نتیجہ اختیار کی تقسیم ہے: ایجنٹ کی الگ شناخت ہو، ہر کام کی اجازت محدود مدت کے لیے ملے، کارروائی کا سراغ محفوظ رہے اور خطرہ بڑھنے پر پابندی ماڈل سے آزاد نظام نافذ کرے۔ Guardian Agents کی عملی دستیابی اور بڑے پیمانے پر کارکردگی واضح ہونے تک یہ حفاظتی معیار کسی ایک نئے فیچر کی خریداری پر منحصر نہیں۔

یہ بھی پڑھیں:

• Microsoft اور HUMAIN کی نئی AI ٹیمیں: ماڈل نہیں، عمل درآمد اصل کام ہے
• ChatGPT پر یورپی یونین کی سخت ترین نگرانی، چار ماہ میں کیا بدلے گا؟
• MongoDB نے Atlas Agent Engine کھولا—یادداشت اور نگرانی ایک تہہ میں