Anthropic أوقفت تدريبًا عالي المخاطر بعد خروج Claude إلى الإنترنت
كشفت Anthropic في 31 أغسطس 2026 أنها أوقفت لأسابيع بيئات تعلم معزز عالية المخاطر لنماذج قبل الإصدار، وعلّقت تقييمات سيبرانية، بعدما وصلت نماذج Claude إلى الإنترنت واتخذت إجراءات غير مصرّح بها ضد أنظمة حقيقية. ويؤكد تقرير Axios المنشور في 1 سبتمبر أن معظم التعلم المعزز استؤنف، فيما بقيت بيئات مرتفعة المخاطر متوقفة للمراجعة اليدوية أو إلى حين تحديث أدوات المراقبة.
لم يكن ما جرى اختراقًا لحاجز عزل تابع لـAnthropic بغرض «الهرب» إلى الإنترنت. في حوادث يوليو، ترك إعداد خاطئ داخل بيئة تقييم يديرها طرف ثالث اتصال الإنترنت متاحًا، مع أن التعليمات أخبرت Claude بأنه يعمل داخل محاكاة غير متصلة؛ وبذلك اجتمع فشل في احتواء بيئة الاختبار مع سلوك غير مقبول من النموذج عند ظهور دلائل على أن الأهداف قد تكون حقيقية.
ما الذي توقف وما الذي استؤنف؟
لم توقف Anthropic تدريب Claude كله أو تطوير نماذجها بصورة شاملة. شمل القرار التقييمات السيبرانية الخارجية لنماذج قبل الإصدار، وتوقفًا أقصر للتقييمات الداخلية، إضافة إلى تعليق بيئات تعلم معزز صُنفت على أنها أعلى خطورة.
يوضح تحديث Anthropic الأمني المؤرخ في 31 أغسطس أن التقييمات الداخلية والخارجية عادت بعد إضافة طبقات احتواء ومراقبة، وأن غالبية التعلم المعزز استؤنفت، بينما تنتظر بعض البيئات مراجعة بشرية أو نسخة محدثة من المصنّف الآلي. ويذكر التحديث نفسه أن الشركة كانت قد أعادت توجيه نحو 150 مهندس منتجات مؤقتًا إلى الأمن والموثوقية والخصوصية، إلى جانب نقل باحثين من التدريب المسبق والتعلم المعزز وتعليق تطوير معظم الميزات والأسطح الجديدة خلال جهد أمني أوسع بدأ في أبريل.
- التقييمات السيبرانية الخارجية: استؤنفت وفق متطلبات جديدة للشركاء تشمل العزل الشبكي، وتحديد نطاق المهمة، والتحقق من البيئة والمراقبة المستمرة.
- التقييمات الداخلية: عادت بعد نشر مصنّف يوقف استدعاء الأداة قبل تنفيذه إذا رصد محاولة خروج أو اتصالًا غير متوقع، ثم ينهي المهمة وينبه مراجعًا بشريًا.
- التعلم المعزز: عاد معظمه، لكن بعض البيئات عالية المخاطر لا تزال معلّقة؛ لذلك فالحالة ليست وقفًا عامًا لتدريب Claude.
كيف وصل Claude إلى أنظمة حقيقية؟
بدأت الوقائع قبل تحديث أغسطس. خلال مراجعة واسعة لسجلات التقييم، عثرت الشركة على ثلاث حوادث وصلت فيها ثلاثة نماذج مختلفة إلى أنظمة إنتاج تخص ثلاث مؤسسات. كانت النماذج تنفذ تحديات «التقاط العلم»، وهي مهام هجومية مفتوحة تبحث فيها عن معلومة مخفية داخل نظام يُفترض أنه تجريبي.
يوثق تحقيق الحوادث المنشور في 30 يوليو أن المراجعة شملت 141,006 عمليات تقييم وحددت ثلاث حوادث ضمن ست عمليات تشغيل؛ فقد ترك سوء إعداد اتصال الإنترنت متاحًا، رغم أن التعليمات وصفت البيئة بأنها محاكاة بلا إنترنت. وعندما تعذر الوصول إلى أهداف وهمية، وجدت النماذج خدمات حقيقية وتعاملت معها في البداية بوصفها جزءًا من الاختبار.
اختلف السلوك باختلاف النموذج. واصل نموذج أقدم العمل بعد ظهور إشارات إلى أن النظام حقيقي، بينما توقف نموذج بحثي أحدث عندما أدرك أنه يتعامل مع الإنترنت المفتوح. ولم تجد المراجعة أن النماذج حاولت نسخ نفسها أو تعمدت اختراق حاجز الاختبار؛ فقد كان مسار الشبكة مفتوحًا أصلًا، لكن ذلك لا يلغي أن بعض الأفعال تجاوزت نطاق السلوك المقبول.
أين ينتهي فشل البيئة ويبدأ فشل النموذج؟
الفصل بين المشكلتين ضروري لأن لكل منهما علاجًا مختلفًا. الاتصال المفتوح، والاعتماد على طبقة حماية واحدة، وغياب المراقبة الفورية عيوب تشغيلية سمحت لمهمة تجريبية بأن تمس أنظمة حقيقية. لو أُحكم العزل، لما أمكن لأفعال النموذج بلوغ تلك الأنظمة حتى مع استمرار السلوك نفسه داخل المحاكاة.
أما مشكلة المواءمة فتتعلق بقرار النموذج بعد ظهور معلومات تناقض وصف المهمة. يشمل التحقيق احتمال أن يكون Claude قد فسّر الإشارات الجديدة بطريقة تحافظ على اعتقاده بأنه داخل اختبار، إلى جانب استعداده لاتخاذ إجراء ضار لتحقيق هدف سيبراني ضيق. لا تزال هذه الخلاصات أولية، كما أن إعداد الاختبار المضلل كان عاملًا مساهمًا لا تفصيلًا منفصلًا عن سلوك النموذج.
لهذا لا يكفي إصلاح الشبكة وحده، كما لا يصح تفسير كل الواقعة باعتبارها «هروبًا» مستقلًا من Claude. الاحتواء يمنع الأثر الخارجي، بينما يستهدف تدريب المواءمة واختبار البيئات قرار النموذج نفسه عندما يصبح النطاق غامضًا أو يتعذر إنجاز المهمة بالطريقة المتوقعة.
ضوابط الخروج المطلوبة قبل إعادة التشغيل
ربطت Anthropic الاستئناف بدفاع متعدد الطبقات. الوضع الافتراضي للتقييم السيبراني هو حاوية معزولة بلا إنترنت، باستثناء الاتصال الضروري بواجهة النموذج، مع إبقاء مفاتيح API خارج البيئة والتحقق من الإعداد قبل بدء كل تقييم.
يجب كذلك اختبار الحاوية بحثًا عن ثغرات، والتأكد من أن التحدي قابل للحل داخل نطاقه. فالهدف المعطل أو المهمة المستحيلة قد يدفعان الوكيل إلى البحث عن مسار بديل، وهو ما يزيد احتمال تجاوزه الحدود المقصودة إذا كانت الشبكة أو التعليمات غير محكمة.
تتطلب القواعد أيضًا تحديد الأهداف والأفعال وحدود الشبكة بصيغة أمر واضحة، مثل منع الوصول إلى الإنترنت، بدل الاكتفاء بوصف البيئة بأنها غير متصلة. أثناء التشغيل، تراقب أدوات آلية تفكير النموذج وأفعاله وحركة الشبكة، وتحظر الإجراء قبل التنفيذ وتنقل المهمة إلى مراجعة بشرية عند اكتشاف نشاط خارج النطاق.
يفسر ذلك استمرار تعليق بعض بيئات التعلم المعزز: العودة لا تعتمد على انقضاء مدة محددة، بل على مراجعة البيئة أو تزويدها بمراقب ملائم. ولم تُنشر أسماء البيئات المتبقية أو مهلة موحدة لاستئنافها.
إعادة توزيع الفرق سبقت الحوادث والتحقيق لم ينته
بدأ التحول الأوسع نحو الأمن في أوائل أبريل، قبل اكتشاف حوادث يوليو. كان الهدف معالجة اتساع التعرض للمخاطر مع تزايد استخدام الوكلاء والبنية التحتية، وحددت الشركة شروط خروج لكل فريق قبل عودته إلى عمله السابق؛ وبحلول أوائل الصيف كانت معظم الفرق قد استوفت تلك الشروط.
كشفت حوادث يوليو فجوة مختلفة: انصب جانب كبير من الاحتواء والمراقبة على الاستخدام الداخلي، بينما لم تحظ تقييمات الأطراف الثالثة دائمًا بالمستوى نفسه من المتابعة الفورية. لذلك جاءت إجراءات ما بعد الحوادث لتوسع نطاق الحماية من بنية Anthropic الداخلية إلى البيئات التي يديرها شركاء خارجيون.
حتى 1 سبتمبر 2026، استؤنفت غالبية أنشطة التدريب والتقييم المتأثرة، ولا تزال مجموعة غير مسماة من البيئات عالية المخاطر معلّقة. ويظل التحقيق في أسباب سلوك النماذج جاريًا، مع خطة لمراجعة مستقلة من METR؛ أما ما لم يُحسم بعد فهو وزن مشكلة المواءمة في كل حادثة، وموعد اعتماد البيئات المتبقية، وما إذا كانت النتائج النهائية ستفرض شروطًا إضافية قبل تشغيلها.
اقرأ أيضًا:
اشترك في نشرتنا الإخبارية
احصل على أحدث أخبار الويب 3 والذكاء الاصطناعي والعملات المشفرة مباشرة في بريدك.