OpenAI نے بچوں کے AI bill کی حمایت کی، audit اور defaults اصل شرط
OpenAI نے 31 اگست 2026 کو California Senate Bill 1119 کی حمایت کی، جب ریاستی قانون ساز اسے منظور کرکے Governor Gavin Newsom کے فیصلے کی طرف بھیج رہے تھے۔ یکم ستمبر تک گورنر کے دستخط یا veto کی تصدیق نہیں ہوئی تھی؛ Los Angeles Times کی قانون ساز رپورٹ نے OpenAI کی حمایت، risk assessment اور مخصوص حالات میں والدین کو اطلاع دینے کی تجویز کے ساتھ یہ بھی واضح کیا کہ Newsom کا فیصلہ غیر یقینی ہے۔
OpenAI کے 31 اگست کے پالیسی بیان میں گورنر سے بل پر دستخط کی اپیل کی گئی اور عمر کے تعین، پیشگی safety assessment، آزاد audits، نقصان دہ گفتگو سے تحفظ، والدین کے tools، بحران کے وسائل اور اشتہاری و ذاتی ڈیٹا کی حدود کی حمایت کی گئی۔ یہ ایک کمپنی کا عوامی مؤقف ہے، منظور شدہ قانون یا SB 1119 کی تعمیل کا سرکاری فیصلہ نہیں۔
OpenAI نے کن اصولوں کی حمایت کی
کمپنی کی تائید کا مرکز یہ ہے کہ نوجوانوں کے لیے حفاظتی انتظامات اختیاری settings نہ ہوں۔ OpenAI کے بیان کے مطابق 13 سے 17 سال کے وہ صارفین جو اپنی عمر بتائیں، یا جنہیں نظام 18 سال سے کم سمجھے، ChatGPT for Teens میں خودکار طور پر منتقل ہوتے ہیں؛ کمپنی اسے built-in safeguards اور والدین کے اضافی controls کے ساتھ بنیادی تجربہ قرار دیتی ہے۔
یہ product position بل کی قانونی ذمہ داریوں سے الگ ہے۔ کسی کمپنی کا اپنی عمر کی پیش گوئی، parental controls یا high-risk notification بیان کرنا یہ ثابت نہیں کرتا کہ اس کا نظام SB 1119 کے ہر معیار پر پورا اترتا ہے۔ اگر بل قانون بنتا ہے تو قابلِ نفاذ سوال یہ ہوگا کہ متعلقہ companion chatbot نے قانونی risk assessment، مخصوص defaults، crisis protocol اور بیرونی audit کی شرائط پوری کیں یا نہیں۔
SB 1119 کا دائرہ اور بنیادی ذمہ داریاں
بل ہر سرچ انجن، تعلیمی AI نظام یا automation tool پر یکساں ضابطہ نافذ نہیں کرتا۔ اس کا موضوع ایسے companion chatbots ہیں جو California کے صارفین کو دستیاب ہوں؛ بچے سے مراد 18 سال سے کم عمر شخص ہے، جبکہ کام کی جگہ یا مخصوص اعلیٰ تعلیمی ماحول کے لیے خصوصی طور پر فراہم کردہ systems کو operator کی تعریف سے استثنا دیا گیا ہے۔
28 اگست کے حتمی ترمیم شدہ متن کے تحت operator کو یا تو مقررہ قانونی طریقے سے عمر کا تعین کرنا ہوگا یا متعلقہ child protections تمام صارفین پر لگانی ہوں گی۔ نیا یا نمایاں طور پر تبدیل شدہ companion chatbot جاری کرنے سے پہلے design، configuration اور operation سے پیدا ہونے والے بچوں کے قابلِ پیش گوئی خطرات کا جامع جائزہ، نتائج کی دستاویز بندی اور معقول تخفیفی اقدامات بھی لازم ہوں گے۔
اگر بچوں کو chatbot تک رسائی دی جاتی ہے تو operator کو عوامی child-safety policy، crisis-response protocol، عمر کے مطابق AI disclosure، قابلِ استعمال parental controls اور third-party incident reporting mechanism رکھنا ہوگا۔ معقول حفاظتی اقدامات کو self-harm کی ترغیب، منشیات یا alcohol، eating disorders، غیر مجاز طبی تشخیص، جنسی مواد، romantic interest، جذباتی انحصار، حد سے بڑھی خوشامد اور والدین سے استعمال چھپانے کی حوصلہ افزائی جیسے outputs روکنے کے لیے بنایا جانا ہوگا۔
اشتہارات اور ڈیٹا کے لیے بھی حدود رکھی گئی ہیں۔ بل بچوں کو cross-context behavioral advertising دکھانے، گفتگو سے حاصل کردہ ذاتی معلومات استعمال کرکے اشتہار target کرنے اور chatbot سے جمع کیا گیا ذاتی ڈیٹا فروخت کرنے سے روکتا ہے؛ محدود contextual advertising کی گنجائش موجود ہے، مگر اسے واضح اشتہار کے طور پر دکھانا ہوگا اور استعمال شدہ معلومات سے بچے کی profile نہیں بنائی جاسکے گی۔
Defaults والدین کے tool سے پہلے آتے ہیں
SB 1119 میں child safety کا baseline پہلے سے فعال ہوگا۔ بچوں کے لیے push notifications بند، ایک مسلسل session زیادہ سے زیادہ ایک گھنٹہ اور تمام متعلقہ chatbots پر روزانہ گفتگو مجموعی طور پر دو گھنٹے تک محدود ہوگی۔ اگر بچے کا account والدین کے account سے منسلک نہ ہو تو یہ defaults تبدیل نہیں کیے جاسکیں گے؛ منسلک account میں تبدیلی کا اختیار والدین کو ہوگا۔
Persistent conversational memory کے لیے عمر کے لحاظ سے باریک فرق ہے۔ عمومی default اسے بند کرتا ہے، مگر 16 یا 17 سال کے صارف کے لیے محدود memory پہلے سے فعال ہوسکتی ہے اگر operator ایسے مؤثر guardrails لگائے جو بلند خطرے والی سابقہ گفتگو کو دوبارہ تقویت دینے یا بڑھانے سے روکیں۔ محض پرانی گفتگو محفوظ رکھنا بھی memory نہیں سمجھا جائے گا، بشرطیکہ اسے بچے کی دیرپا profile بنانے کے لیے استعمال نہ کیا جائے۔
والدین کو اطلاع دینا مستقل نگرانی کی اجازت نہیں۔ credible اور فوری suicide یا self-harm threat کی صورت میں operator کو، اگر account منسلک ہو اور اطلاع سے بچے کو سنگین نقصان کا خطرہ نہ بڑھے، جلد از جلد والدین کو مطلع کرنا ہوگا؛ متبادل طور پر بچے کو 988 یا مساوی crisis helpline سے براہِ راست رابطے کا آسان راستہ دیا جاسکتا ہے۔ بچے کو پہلے سے یہ بھی سمجھانا ہوگا کہ safety risk سامنے آنے پر والدین کو اطلاع دی جاسکتی ہے۔
Audit کا وعدہ اصل متن میں کیسے کام کرتا ہے
آزاد child-safety audit voluntary pledge اور قابلِ جانچ ذمہ داری کے درمیان بنیادی فرق ہے، لیکن منظور شدہ متن اپریل کے ابتدائی committee analysis سے بدل چکا ہے۔ تازہ متن سالانہ audit نہیں کہتا: پہلا audit یکم جنوری 2029 تک، یا chatbot پہلی بار عوام کے لیے دستیاب ہونے سے پہلے—ان میں جو تاریخ بعد میں آئے—کرانا ہوگا، پھر عموماً ہر دو سال بعد audit ہوگا۔ جس بڑی تبدیلی کے risk assessment میں child-safety risk بڑھتا نظر آئے، اس کے اجرا سے پہلے بھی audit درکار ہوگا۔
Auditor operator سے بیرونی، غیر جانب دار اور متعلقہ اہلیت رکھنے والا ہونا چاہیے۔ رپورٹ میں خطرات، mitigation کی جانچ، internal controls، قانونی تقاضوں سے نمایاں انحراف، audit methodology اور lead auditor کی حلفیہ تصدیق شامل ہوگی۔ Operator کو audit ملنے کے 30 کاروباری دن کے اندر اس کا خلاصہ Attorney General کو دینا اور 90 دن میں ایک اعلیٰ سطحی خلاصہ اپنی ویب سائٹ پر شائع کرنا ہوگا؛ Attorney General مناسب وجہ پر مکمل رپورٹ طلب کرکے اسے enforcement میں استعمال کرسکتا ہے۔
Audit کی شرط فوری طور پر ہر چھوٹے operator پر یکساں لاگو نہیں ہوگی۔ 2032 سے پہلے گزشتہ سال 500 ملین ڈالر سے کم gross revenue رکھنے والے operator کے لیے audit section کا استثنا رکھا گیا ہے۔ اس کے باوجود جولائی 2027 سے operative ہونے والی عمر، risk assessment، defaults، crisis response، harmful outputs، advertising اور data restrictions کی دوسری دفعات اپنی الگ قانونی حیثیت رکھتی ہیں، اگر بل قانون بن جائے۔
نفاذ موجود ہے، مگر بل ابھی قانون نہیں
SB 1119 سرکاری prosecutors کو negligent violation پر فی متاثرہ بچے زیادہ سے زیادہ 5,000 ڈالر اور intentional violation پر 15,000 ڈالر تک civil penalty مانگنے کی اجازت دیتا ہے۔ مخصوص safety duties کی خلاف ورزی سے حقیقی نقصان اٹھانے والا بچہ، یا اس کی طرف سے والدین، actual damages، قانونی اخراجات اور عدالتی حکم کے لیے مقدمہ بھی لاسکتے ہیں؛ مالی نقصان کے دعوے کے لیے فی بچہ 1,000 ڈالر سے زیادہ نقصان اور جذباتی دعوے کے لیے serious emotional distress درکار ہوگا۔
اس بنا پر عنوان میں audit اور defaults محض پالیسی نعرے نہیں بلکہ بل کے عملی accountability framework کے مرکزی حصے ہیں۔ پھر بھی یکم ستمبر 2026 کی حالت میں OpenAI کی حمایت اور Legislature کی منظوری ہی تصدیق شدہ واقعات ہیں؛ قانونی obligations تبھی نافذ ہونے کی طرف بڑھیں گے جب Governor Newsom بل پر دستخط کریں۔ اگلا فیصلہ گورنر کا ہے، اور اس کے بعد توجہ implementation dates، audit evidence اور Attorney General کی نگرانی پر منتقل ہوگی۔
یہ بھی پڑھیں:
ہمارا نیوز لیٹر سبسکرائب کریں
ویب 3، AI اور کرپٹو کی تازہ خبریں براہ راست اپنے اِن باکس میں پائیں۔