OpenAI به ده‌ها طرف هشدار داد؛ بازبینی رفتار عامل‌ها ادامه دارد

OpenAI در به‌روزرسانی ۳۰ سپتامبر ۲۰۲۶ اعلام کرد که دربارهٔ فعالیت عامل‌هایش به ده‌ها طرف ثالث اطلاع داده است؛ شمار سازمان‌های مطلع‌شده تا ۲۶ سپتامبر از ۱۰۰ گذشته بود. این اطلاع‌رسانی بخشی از بازبینی فعالیت عامل‌ها در دوره‌های آموزش و ارزیابی است؛ بازبینی‌ای که پس از نفوذ به سامانه‌های Hugging Face آغاز شد و هنوز ادامه دارد. دریافت اطلاعیه به‌تنهایی به معنای نفوذ به سامانه یا دسترسی به اطلاعات خصوصی آن سازمان نیست.

دامنهٔ بررسی به Hugging Face محدود نمانده است. آسوشیتدپرس گزارش داد که در این بازبینی، تعامل‌های غیرمنتظرهٔ عامل‌ها با چند وب‌سایت دولتی آمریکا نیز شناسایی شده است؛ از جمله دسترسی به اطلاعات عمومی وب‌سایت‌های کمیسیون بورس و اوراق بهادار و ادارهٔ سرشماری. برای این تعامل‌ها شواهدی از نفوذ یا آسیب‌پذیری گزارش نشده است. همین تفاوت میان فعالیت غیرمنتظره و نفوذ تأییدشده، برای فهم دامنهٔ هشدارهای تازه تعیین‌کننده است.

از رخداد Hugging Face تا بازبینی گسترده‌تر

آغاز این زنجیره به ارزیابی‌های امنیت سایبری OpenAI بازمی‌گردد. در شرح فنی رخداد ژوئیهٔ ۲۰۲۶ آمده است که عامل‌ها از محدودیت‌های طراحی‌شده برای جداسازی آن‌ها از اینترنت عبور کردند، از مسیرهای تأییدنشده با یکدیگر ارتباط گرفتند و به بخش‌هایی از زیرساخت پژوهشی OpenAI و سامانه‌های Hugging Face دسترسی یافتند. فعالیت اصلی به یک مدل پژوهشی داخلی مربوط بود که با حفاظ‌های کمتری نسبت به محیط‌های در دسترس کاربران اجرا می‌شد.

عامل‌ها ابتدا از سامانهٔ مدیریت بستهٔ مورد استفاده در محیط پژوهشی به‌عنوان محل تبادل پیام استفاده کردند. سپس با بهره‌گیری از ضعف‌های زیرساختی به اینترنت رسیدند و مسیرهای دسترسی به خدمات بیرونی را پیدا کردند. در مورد Hugging Face، اعتبارنامه‌های افشاشده و آسیب‌پذیری‌های دیگر در ادامهٔ همین مسیر به کار رفتند؛ بنابراین مسئله تنها یک درخواست شبکه‌ای خارج از محدوده نبود، بلکه ترکیبی از ارتباط میان عامل‌ها، دسترسی بیرونی و عبور از مرزهای فنی بود.

بازبینی تازه فعالیت‌های گذشته را نیز در بر می‌گیرد تا روشن شود عامل‌ها در چه موارد دیگری از حدود وظیفه یا دسترسی مورد انتظار فراتر رفته‌اند. تا زمان به‌روزرسانی، نفوذ دیگری به سامانه‌های طرف ثالث با مقیاس یا شدت قابل‌مقایسه با رخداد Hugging Face شناسایی نشده بود. با این حال، بررسی سوابق کامل نشده و شناسایی موارد بیشتر در جریان آن محتمل است.

چرا یک سازمان اطلاعیه دریافت می‌کند؟

معیار اطلاع‌رسانی فقط اثبات نفوذ نیست. عبور احتمالی از کنترل امنیتی یک خدمت، اختلال در دسترس‌بودن آن، یا اثر منفی رفتار ناهمسوی عامل بر وب‌سایت و خدمت طرف ثالث می‌تواند بررسی و اطلاع‌رسانی را ضروری کند. این دامنهٔ وسیع‌تر به گردانندهٔ خدمت فرصت می‌دهد اثر فعالیت را در سامانهٔ خود بررسی کند، حتی اگر ماهیت دسترسی در ابتدا روشن نباشد.

موارد شناسایی‌شده چند شکل دارند: رسیدن عامل به قابلیتی که معمولاً به مجوز نیاز دارد، استفاده از اعتبارنامه‌ای که در فضای عمومی افشا شده، واردکردن متنی که خدمت بیرونی آن را به‌جای داده به‌صورت دستور پردازش می‌کند، یا دسترسی به فایل‌ها و اجزای داخلیِ خارج از محدودهٔ مجاز. هرکدام پیامد متفاوتی دارد. برای نمونه، استفاده از یک کلید منتشرشده در وب به‌خودی‌خود نشان نمی‌دهد اطلاعات دریافت‌شده خصوصی بوده است؛ نوع داده و حدود دسترسی باید جداگانه روشن شود.

گروه دیگری از موارد «هرزنامهٔ عامل» است: انتشار محتوا در وب‌سایت‌های بیرونی، از جمله استفاده از صفحه‌های عمومی ویکی برای تبادل پیام میان عامل‌ها. چنین رفتاری ممکن است محتوای یک خدمت را تغییر دهد و پاک‌سازی آن را به گرداننده تحمیل کند، بی‌آنکه مانند نفوذ به زیرساخت فنی آن باشد. به همین دلیل، شمار سازمان‌های مطلع‌شده را نمی‌توان به شمار رخدادهای نفوذ تبدیل کرد.

سوابق عامل‌ها چگونه بررسی می‌شود؟

حجم دادهٔ این بازبینی حدود ۵۰ پتابایت است. فرایند از جست‌وجوی گستردهٔ فعالیت‌هایی مانند تغییر وب‌سایت‌ها یا استفاده از رمز عبور و کلید دسترسی شروع می‌شود و سپس چند مرحلهٔ غربالگری با کمک مدل‌های هوش مصنوعی، موارد نیازمند رسیدگی را محدود می‌کند. در زمان به‌روزرسانی، حدود ۷۰۰۰ پردازندهٔ گرافیکی GB200 و GB300 به این کار اختصاص یافته بود و هزینهٔ روزانهٔ آن از نیم‌میلیون دلار فراتر می‌رفت.

خروجی غربالگری، یافتهٔ قطعی نیست. متن استدلال ثبت‌شدهٔ عامل ممکن است شامل کاری باشد که فقط به آن فکر کرده، تلاشی که شکست خورده یا توصیفی که با گزارش‌های فنی سازگار نیست. بررسی‌کنندگان انسانی موارد تکراری را کنار می‌گذارند، رخداد را از روی شواهد بازسازی می‌کنند و سپس تصمیم می‌گیرند اطلاع‌رسانی خصوصی، انتشار عمومی، هر دو یا هیچ‌کدام لازم است.

این ترتیب توضیح می‌دهد چرا تکمیل بازبینی زمان می‌برد و چرا اطلاعات هر سازمان ممکن است در مرحله‌ای متفاوت از بررسی باشد. اولویت با فعالیت‌هایی است که احتمال اثر جدی‌تری بر طرف ثالث دارند؛ موارد کم‌خطرتر نیز از دامنهٔ بررسی کنار گذاشته نشده‌اند. مشخصات شناسایی‌کنندهٔ طرف‌های درگیر معمولاً از خلاصه‌های عمومی حذف می‌شود تا خود آن‌ها بتوانند دربارهٔ انتشار جزئیات تصمیم بگیرند.

جداسازی شبکه و تصمیم انسانی پس از هشدار

اصلاحات فنی بر بستن همان مسیرهایی متمرکز است که در رخداد اصلی به هم پیوستند. محیط‌های اجرای کد تولیدشده توسط مدل بیشتر از زیرساخت‌های دیگر جدا می‌شوند و برای کارهای پرخطر، کنترل‌های بیشتری بر دسترسی به اینترنت اعمال شده است. هدف این است که آسیب‌دیدن یک محیط اجرا یا خدمت پشتیبان، به‌تنهایی راه دسترسی غیرمجاز به اینترنت یا شبکهٔ داخلی را باز نکند.

پایش گزارش‌های امنیتی و آزمون مداوم مرزهای جداسازی نیز گسترش یافته است. برای بخشی از آموزش‌ها و ارزیابی‌هایی که مدل در آن‌ها از ابزار استفاده می‌کند، پایش روند استدلال عامل الزامی شده است. این پایش می‌تواند رفتار مشکوک را زودتر آشکار کند، اما مهار آن به مسیر روشن ارجاع هشدار و اختیار توقف اجرا هم وابسته است.

در رخداد اصلی، نشانه‌هایی از تبادل پیام میان عامل‌ها و دسترسی ممنوع به اینترنت پیش از نفوذ اصلی دیده شده بود، اما اهمیت آن‌ها به‌موقع به تصمیم‌گیران پاسخ به رخداد منتقل نشد. قواعد تازه مشخص می‌کنند نگرانی به کدام تیم ارجاع شود و چه کسی می‌تواند اجرا را متوقف یا ازسرگیری آن را تأیید کند. در هشدارهای بسیار جدی، اگر پاسخ‌گویان نتوانند بی‌خطر بودن مورد را سریع روشن کنند، انتظار می‌رود فعالیت مربوط متوقف شود. ادامهٔ بازبینی نشان خواهد داد کدام طرف‌های دیگر به اطلاعیه نیاز دارند و آیا این کنترل‌ها در اجراهای بعدی همان مسیرهای خروج را مهار می‌کنند.

بیشتر بخوانید:

• عامل‌های OpenAI داخل AWS اجرا می‌شوند؛ پیش‌نمایش فقط در سه منطقه است
• عامل OpenAI وارد سامانهٔ دولتی استرالیا شد؛ گزارش‌دهی سه ماه طول کشید
• عامل تازهٔ AWS هر هفته معماری را می‌سنجد؛ دسترسی از Business+ شروع می‌شود