آمریکا و چین کانال بحران AI می‌سازند؛ هنوز تعریف «حادثه» روشن نیست

آمریکا و چین پس از دیدار دونالد ترامپ و شی جین‌پینگ در واشنگتن، به روایت اعلام رسمی دولت چین در ۲۶ سپتامبر ۲۰۲۶، بر ایجاد کانال ارتباطی دوجانبه برای حوادث هوش مصنوعی توافق کردند و دور بعدی گفت‌وگو درباره خطرها و مزایای این فناوری را برای نوامبر ۲۰۲۶ گذاشتند. تعهد فعلی ایجاد مسیر تماس است؛ در متن منتشرشده تعریفی برای «حادثه» یا زمان آغاز کار کانال دیده نمی‌شود.

برگه اطلاعاتی کاخ سفید به تاریخ ۲۵ سپتامبر ۲۰۲۶ نیز همین توافق را در پایان سفر رسمی رئیس‌جمهور چین ثبت می‌کند، با این تفاوت که موضوع گفت‌وگو و حوادث را «ابرهوش» می‌نامد و موعد گفت‌وگوی بعدی را «تا نوامبر» بیان می‌کند. بنابراین دو طرف درباره اصل کانال هم‌نظرند، اما بیان آن‌ها از دامنه فناوری و زمان گفت‌وگوی بعدی دقیقاً یکسان نیست.

دو تعهد جداگانه در بند هوش مصنوعی

گفت‌وگوی دوجانبه درباره خطرها و مزایا، چارچوبی برای تبادل نظر است؛ کانال حوادث برای ارتباط بر سر رخدادی مشخص پیش‌بینی شده است. جدا کردن این دو اهمیت دارد، چون برنامه داشتن برای گفت‌وگو به معنی آماده بودن یک مسیر عملیاتی هنگام بروز حادثه نیست. دو دولت هنوز نگفته‌اند آیا کانال از راه نهادهای موجود اداره می‌شود یا برای آن مسئولان و روش تماس تازه‌ای تعیین خواهند کرد.

واژه‌های به‌کاررفته در دو اعلام رسمی نیز دامنه کانال را روشن نمی‌کنند. طرف چینی از هوش مصنوعی سخن می‌گوید و طرف آمریکایی اصطلاح ابرهوش را به کار می‌برد، اما هیچ‌کدام فهرستی از سامانه‌های مشمول یا پیامدهای قابل گزارش نداده‌اند. اگر یک دولت خروجی خطرناک یک مدل را حادثه بداند و دیگری فقط اختلالی با پیامد امنیتی را مشمول بداند، صرف وجود کانال تصمیم درباره تماس را حل نمی‌کند. این نمونه‌ای فرضی از پیامد تفاوت تعریف است، نه اختلافی که وقوعش میان دو دولت ثبت شده باشد.

تماس هنگام حادثه چگونه می‌تواند کار کند؟

نخستین تصمیم عملی این است که چه نشانه‌ای برای خبر دادن به طرف دیگر کافی باشد. حادثه ممکن است به رفتار غیرمنتظره یک سامانه، استفاده نادرست از آن یا پیامدی مربوط باشد که انتسابش به هوش مصنوعی هنوز قطعی نیست. اگر دولت‌ها تا اثبات کامل علت صبر کنند، پیام ممکن است دیر برسد؛ اگر هر ظن اولیه را گزارش کنند، شمار هشدارهای مبهم بالا می‌رود. این دو وضعیت، دشواری تعیین آستانه مشترک را نشان می‌دهند.

متن‌های عمومی آستانه اعلام، قالب پیام اولیه، مهلت پاسخ و راه اصلاح یک گزارش نادرست را تعیین نکرده‌اند. زمان رخداد، نوع سامانه درگیر، پیامد مشاهده‌شده و میزان اطمینان به علت می‌تواند برای تشخیص فوریت مفید باشد، در حالی که جزئیات مدل یا اطلاعات امنیتی ممکن است حساس تلقی شود. تصمیم درباره مقدار اطلاعات قابل مبادله، بخشی از کار اجرایی پیش روی دو طرف است.

همین انتخاب بر فایده تماس اثر می‌گذارد. پیامی که فقط از وقوع «حادثه» خبر بدهد، شاید برای ارزیابی خطر کافی نباشد؛ پیام دقیق‌تر ممکن است اطلاعاتی را در بر بگیرد که دولت فرستنده مایل به افشای آن نیست. توافق سیاسی امکان ایجاد کانال را فراهم کرده، اما هنوز معلوم نیست اطلاعاتی که از آن عبور می‌کند تا چه اندازه برای رفع ابهام یک رخداد کافی خواهد بود.

سه سناریوی فرضی برای مرز «حادثه»

رویدادهای احتمالی را می‌توان بر اساس پیامد و نیاز طرف مقابل به توضیح کنار هم گذاشت. سناریوهای زیر فرضی‌اند و در توافق به‌عنوان موارد قابل گزارش نام برده نشده‌اند. تفاوت آن‌ها نشان می‌دهد که تعیین آستانه تماس فقط به شدت خطای فنی وابسته نیست؛ احتمال اثر بر کشور دیگر و خطر برداشت نادرست نیز می‌تواند در تصمیم نقش داشته باشد.

• پیامد فرامرزی: فرض کنید عملکرد یک سامانه بر خدمات یا تصمیم‌هایی در هر دو کشور اثر آشکار بگذارد. تماس می‌تواند زمان رخداد و دامنه پیامد را روشن کند، اما معلوم نیست اثر فرامرزی به‌تنهایی کافی است یا نقش مستقیم سامانه نیز باید ثابت شود.
• سوءبرداشت امنیتی: فرض کنید خروجی نادرست یک سامانه به اقدام عمدی طرف مقابل نسبت داده شود. توضیح زودهنگام شاید از تشدید سوءتفاهم بکاهد؛ هنوز روشن نیست خطر برداشت اشتباه، حتی پیش از وقوع خسارت، چه جایگاهی در تعریف حادثه خواهد داشت.
• اختلال صرفاً داخلی: فرض کنید خطای یک مدل فقط در خدمات داخل یک کشور دیده شود و شواهدی از اثر بر کشور دیگر نباشد. ضرورت تماس دوجانبه در این وضع کمتر آشکار است، اما توافق حدی برای بزرگی اختلال یا نوع خدمات آسیب‌دیده تعیین نکرده است.

در هر سه وضعیت، تصمیم به تماس به رابطه میان سامانه، پیامد و نیاز طرف مقابل به اطلاع‌رسانی بستگی دارد. یک قاعده مشترک باید همچنین روشن کند آیا گزارش ظن اولیه پذیرفتنی است یا تماس پس از تأیید علت انجام می‌شود. این‌ها انتخاب‌های اجرایی آینده‌اند و نمی‌توان آن‌ها را جزو مفاد اعلام‌شده شمرد.

رقابت فناوری و مسیر مستقل ارتباط نظامی

توافق درباره تماس، رقابت دو کشور در توسعه فناوری را متوقف نمی‌کند. ترامپ در پاسخ به خبرنگاران، بنا بر گزارش آسوشیتدپرس، گفت آمریکا «not going to be putting on brakes» و درباره محدود بودن آنچه با چین به اشتراک می‌گذارد نیز سخن گفت. این موضع نشان می‌دهد دو دولت ممکن است خواهان هشدار سریع باشند، اما درباره افشای جزئیات فنی یا امنیتی احتیاط کنند.

ارتباط میان نیروهای نظامی نیز در نتایج سفر مطرح شده، اما مسیر جداگانه‌ای دارد. دو طرف بر پیشبرد یادداشت تفاهمی برای ارتباط و پیشگیری از بحران نظامی توافق کرده‌اند؛ کانال حوادث هوش مصنوعی در بند دیگری آمده است. رخدادی که هم بُعد فناورانه و هم پیامد امنیتی داشته باشد ممکن است به هماهنگی میان این دو مسیر نیاز پیدا کند، ولی رابطه آن‌ها در مفاد منتشرشده توضیح داده نشده است.

گفت‌وگوی بعدی فرصت مشخصی برای تبدیل تعهد سیاسی به قاعده اجرایی است. اگر دو دولت در آن درباره تعریف حادثه، محتوای پیام اولیه و مسئول پاسخ به تفاهم برسند، می‌توان دقیق‌تر سنجید کانال هنگام یک رخداد واقعی چگونه به کار خواهد افتاد.

بیشتر بخوانید:

• RAG یا پنجرهٔ زمینهٔ بلند؛ اسناد بیشتر همیشه پاسخ بهتر نمی‌سازند
• نمونه‌کار AI بسازید؛ سه پروژهٔ روشن از ده مخزن مبهم بهتر است
• ChatGPT یا Perplexity برای تحقیق؛ تعداد منبع بیشتر مساوی دقت بیشتر نیست