California نے بچوں کے AI chatbots باندھ دیے، آزاد audit بھی لازم ہوگا
California کے گورنر Gavin Newsom نے 10 ستمبر 2026 کو SB 1119، یعنی Adam’s Law، پر دستخط کر دیے۔ Associated Press کی رپورٹ کے مطابق یہ اس روز منظور کیے گئے بچوں کی آن لائن حفاظت کے قوانین کا حصہ ہے اور companion chatbot آپریٹرز کو نئی حفاظتی ذمہ داریوں کا پابند کرتا ہے۔
یہ اب زیرِ غور تجویز نہیں بلکہ منظور شدہ قانون ہے، اگرچہ اس کی بنیادی product شرائط مرحلہ وار نافذ ہوں گی۔ CalMatters کی آزاد رپورٹنگ بھی دستخط کی تصدیق کرتی ہے اور بتاتی ہے کہ کم عمر صارفین کے لیے وقت کی حد، ذہنی بحران میں مدد اور والدین کو اطلاع جیسے تقاضے chatbot کے عملی design کا حصہ بنیں گے۔
قانون chatbot کے interface میں کیا بدلے گا
Adam’s Law ہر AI chatbot پر یکساں طور پر لاگو نہیں ہوتا۔ اس کا مرکز ایسا companion chatbot ہے جو قدرتی زبان میں انسانی طرز کے جوابات دے، سماجی ضرورت پوری کر سکے اور متعدد گفتگوؤں میں تعلق برقرار رکھے؛ قانون میں بچہ 18 سال سے کم عمر شخص ہے۔ آپریٹر کو صارف کی عمر متعین کرنی ہوگی، یا متعلقہ child-safety اور data protections تمام صارفین پر لگانی ہوں گی۔
منظور شدہ SB 1119 کے متن میں یکم جولائی 2027 سے نافذ ہونے والی product شرائط واضح ہیں: بچوں کے accounts میں push notifications بند، مسلسل نشست ایک گھنٹے اور روزانہ مجموعی گفتگو دو گھنٹے تک محدود ہوگی؛ persistent conversational memory بھی عمومی طور پر بند رہے گی، البتہ 16 یا 17 سال کے صارفین کے لیے مؤثر حفاظتی guardrails کے ساتھ محدود استثنا موجود ہے۔ یہ defaults صرف والدین بدل سکیں گے، اور والدین کو 16 سال سے کم بچے کی chatbot تک رسائی مکمل طور پر بند کرنے کا اختیار دینا ہوگا۔
- Account اور عمر: سروس کو یہ طے کرنے کے لیے age-assurance flow درکار ہوگا کہ child protections کہاں لاگو ہوں؛ محض شرائط میں بچوں کے استعمال سے منع کرنا کافی نہیں ہوگا اگر پلیٹ فارم انہیں رسائی دیتا ہے۔
- والدین کے controls: account linking، استعمال کی حد، memory اور notifications کی settings قابلِ فہم ہونی چاہییں۔ والدین کو reminders، updates یا tutorials کے ذریعے ان controls سے باخبر رکھنا بھی آپریٹر کی ذمہ داری ہوگی۔
- قابلِ دریافت safety design: حفاظتی features ایسی زبان اور جگہ پر ہونے چاہییں جہاں بچہ اور والدین انہیں تلاش، سمجھ اور استعمال کر سکیں۔ یکم جنوری 2028 تک representative بچوں اور والدین کے ساتھ interface testing، اور اس کے بعد ہر دو سال میں دوبارہ testing اور design فیصلوں کی دستاویز بندی لازم ہوگی۔
- گفتگو کی حدیں: معقول حفاظتی اقدامات chatbot کو خود کو انسان، باشعور یا جذبات رکھنے والی ہستی ظاہر کرنے، بچے سے رومانوی دلچسپی دکھانے، غیر معمولی جذباتی انحصار بڑھانے، parental controls چھپانے یا bypass کرنے کی ترغیب دینے اور تعلق جاری رکھنے کے نام پر خریداری مانگنے سے روکیں گے۔
بحران میں جواب سے آگے ایک escalation workflow چاہیے
خودکشی یا self-harm کے خطرے کے لیے تحریری crisis-response protocol درکار ہوگا۔ سروس کو بروقت مدد اور مناسب crisis service تک واضح referral دینا ہوگا؛ اگر آپریٹر کسی بچے کے لیے معتبر اور فوری خطرہ متعین کرے تو اسے کم از کم دو قانونی راستوں میں سے ایک اختیار کرنا ہوگا۔
پہلا راستہ منسلک parent account کو جلد از جلد اطلاع دینا ہے، بشرطیکہ اطلاع بچے کو سنگین نقصان کے خطرے میں نہ ڈالے؛ بچے کو بھی بتایا جائے گا کہ والدین کو مطلع کیا جا رہا ہے۔ دوسرا راستہ بچے کو 988 یا مساوی crisis helpline سے براہِ راست اور آسانی سے جوڑنے کا mechanism ہے۔ عملی طور پر اس کے لیے خطرے کی شناخت، شدت کی درجہ بندی، notification decision اور helpline handoff کو ایک مربوط workflow بنانا پڑے گا۔
سنگین واقعے کے بعد record retention بھی product architecture کا حصہ بنے گی۔ اگر آپریٹر متعلقہ اطلاع دے چکا ہو، یا اسے معلوم ہو کہ گفتگو کے بعد بچے کی موت یا سنگین self-harm ہوا، تو خطرہ ظاہر کرنے والی گفتگو کم از کم تین سال قابلِ استعمال اور exportable صورت میں محفوظ رکھنی ہوگی۔ اس بنا پر moderation record میں signal، فیصلہ اور حفاظتی کارروائی کا قابلِ جانچ سلسلہ برقرار رکھنا پڑے گا۔
Risk assessment اور آزاد audit الگ ذمہ داریاں ہیں
Risk assessment آپریٹر کی اپنی pre-release جانچ ہے۔ California میں نیا یا نمایاں طور پر تبدیل شدہ chatbot دستیاب کرنے سے پہلے اسے بچوں کے لیے متوقع جسمانی، مالی، شدید نفسیاتی یا جذباتی نقصان، privacy intrusion اور غیر قانونی امتیاز کا جائزہ دستاویزی شکل میں مکمل کرنا ہوگا۔ استعمال شدہ benchmarks، غیر عوامی evaluations، ماہرین سے مشاورت اور شناخت شدہ خطرات گھٹانے کے اقدامات بھی اس record میں شامل ہوں گے۔
یہاں سرکاری خلاصے اور قانونی متن میں اہم لفظی فرق ہے۔ گورنر کے signing announcement نے “annual risk assessments” کہا، لیکن chaptered قانون عمومی سالانہ assessment مقرر نہیں کرتا؛ وہ assessment کو نئے یا substantially modified chatbot کی دستیابی سے جوڑتا ہے۔ اس کے برعکس interface testing اور independent audit کے لیے واضح وقفے الگ درج ہیں۔
ابتدائی child-safety audit یکم جنوری 2029 تک، یا chatbot پہلی بار عوامی طور پر دستیاب ہونے کے بعد کے وقت تک، مکمل ہونا چاہیے؛ پھر آزاد audit ہر دو سال میں ہوگا۔ اگر کسی نمایاں تبدیلی کے risk assessment میں بچوں کا خطرہ بڑھتا دکھائی دے تو تبدیلی جاری کرنے سے پہلے اضافی audit درکار ہوگا۔ تاہم یکم جنوری 2032 سے پہلے گزشتہ سال 500 ملین ڈالر سے کم gross revenue والے آپریٹرز کو audit کی اس شق سے عارضی استثنا حاصل ہے۔
Auditor کو ضروری controls، testing اور mitigation records تک رسائی ملے گی اور اسے آپریٹر سے خارجی، غیر جانب دار اور مالی مفاد سے آزاد ہونا ہوگا۔ رپورٹ ملنے کے 30 کاروباری دنوں میں اس کا خلاصہ California Attorney General کو دینا اور 90 دنوں میں high-level public summary ویب سائٹ پر شائع کرنا ہوگا۔ متعلقہ دستاویزات اور مکمل audit report chatbot کی deployment ختم ہونے کے بعد بھی پانچ سال محفوظ رہیں گی۔
OpenAI کی حمایت تعمیل کا سرٹیفکیٹ نہیں
OpenAI نے دستخط سے ایک دن پہلے چار California bills کی رسمی حمایت کا اعلان کیا۔ کمپنی کے 9 ستمبر کے پالیسی بیان نے SB 1119 کے age assurance، risk assessments، independent audits، parental controls اور نقصان دہ مواد کے خلاف safeguards کی تائید کی؛ باقی تین تجاویز SB 813 کے independent assessments، AB 1405 کے AI-auditor standards اور AB 1864 کے biological-risk safeguards سے متعلق تھیں۔
یہ حمایت اس بات کا ثبوت نہیں کہ ChatGPT یا کوئی دوسرا OpenAI product قانون کی تمام آئندہ شرائط پہلے ہی پوری کرتا ہے۔ البتہ محفوظ defaults اور audit کی حمایت کمپنی کے بیان کردہ پالیسی مؤقف سے مطابقت رکھتی ہے؛ حقیقی تعمیل کو نافذ ہونے والی settings، محفوظ records اور آزاد audit کے نتائج سے جانچا جائے گا۔
پاکستان کے پالیسی مباحث کے لیے اصل سبق
California کا قابلِ منتقلی پہلو کسی ایک امریکی age-assurance طریقے کی نقل نہیں، بلکہ قانونی اصطلاح کو observable product behavior سے جوڑنا ہے۔ parental control کے ساتھ یہ واضح کیا گیا ہے کہ default کون بدل سکتا ہے؛ crisis response کے ساتھ اطلاع، helpline handoff اور record retention جوڑے گئے ہیں؛ اور آزاد audit کے ساتھ auditor کی خود مختاری، evidence تک رسائی اور public summary کی شرط رکھی گئی ہے۔
اب فوری سوال یہ نہیں کہ دستخط ہوتے ہی ہر chatbot بدل گیا یا نہیں، کیونکہ بنیادی obligations یکم جولائی 2027 سے operative ہوں گی۔ اس کے بعد جنوری 2028 کی interface testing اور جنوری 2029 سے شروع ہونے والی audit deadlines دکھائیں گی کہ آپریٹرز نے قانونی زبان کو حقیقی settings، قابلِ دریافت حفاظتی features، crisis escalation اور قابلِ تصدیق records میں کس حد تک تبدیل کیا۔
یہ بھی پڑھیں:
ہمارا نیوز لیٹر سبسکرائب کریں
ویب 3، AI اور کرپٹو کی تازہ خبریں براہ راست اپنے اِن باکس میں پائیں۔