شش ارزیاب METR وارد Anthropic شدند؛ انتشار آزاد، اما با حق حذف

Anthropic در اطلاعیهٔ ۱۵ اکتبر ۲۰۲۶، با توضیح تکمیلی ۱۶ اکتبر دربارهٔ شرایط METR اعلام کرد شش عضو این نهاد را با سخت‌افزار و فضای اداری شرکت به کار ارزیابی داخلی نزدیک کرده است و دربارهٔ انتشار تحلیل آنان نوشت: «Anthropic can’t veto publication». دسترسی این گروه به ابزارها و سامانه‌های داخلی تقریباً هم‌سطح تیم‌های ارزیابی ریسک Anthropic توصیف شده است؛ شرکت در عین حال می‌تواند حذف اطلاعاتی را که در دسته‌های محرمانهٔ از پیش تعیین‌شده می‌گنجند، مطالبه کند.

METR نهادی غیرانتفاعی است که مدل‌های پیشرفتهٔ هوش مصنوعی را ارزیابی می‌کند. گزارش TechCrunch مأموریت گروه مستقر را بررسی مدل‌ها، رویه‌های ایمنی و مدیریت ریسک Anthropic توصیف می‌کند. امتیاز این گروه در دسترسی به شواهد درون شرکت است، اما اختیار تعیین اینکه کدام جزئیات محرمانه از گزارش عمومی کنار بروند، همچنان نزد Anthropic می‌ماند.

دسترسی شش عضو METR به چه چیزهایی می‌رسد؟

گروه مستقر برای کار خود از تجهیزات شرکت، فضای اداری و ابزارهای داخلی استفاده می‌کند. کارکنان Anthropic تشویق شده‌اند اطلاعات مرتبط را، بیرون از چند دستهٔ مستثنا، مانند همکاری با همکار بخش ارزیابی ریسک در اختیار این گروه بگذارند. به این ترتیب ارزیاب می‌تواند دربارهٔ سطح خطر، رخدادها و رویه‌ها به شواهدی فراتر از پاسخ‌های عمومی مدل و گزارش‌های منتشرشده دست پیدا کند. عملکرد مدل به‌تنهایی نشان نمی‌دهد یک رخداد چگونه شناسایی و در داخل شرکت پیگیری شده است.

مرز دسترسی در همان تعریف رسمی آمده است: داده‌های مشتریان، اطلاعات مشمول محرمانگی رابطهٔ وکیل و موکل و جزئیات معماری مدل‌ها از نمونه‌های مستثنا هستند. دربارهٔ معماری، Anthropic خطر افشای ناخواسته را بالا و ارتباط معمول آن را با ارزیابی ریسک پایین توصیف می‌کند؛ اگر این اطلاعات برای ارزیابی بسیار مهم باشد، شرکت عموماً برای ارائهٔ آن تلاش می‌کند، ولی تأیید داخلی صریح لازم است. بنابراین نزدیکی دسترسی به تیم ریسک، به معنای یکسان بودن دسترسی در هر موضوع یا برای هر درخواست نیست.

این اختیار فقط به گروه کوچک مستقر داده شده است. اعضای دیگر METR، از جمله پژوهشگرانی که در پروژه‌های دیگر با Anthropic همکاری می‌کنند، از اطلاعات این گروه جدا نگه داشته می‌شوند. اعضای مستقر نیز طبق توافق‌های لازم‌الاجرا و معیارهای امنیتی شرکت کار می‌کنند. این سازوکار امکان مشاهدهٔ فرایندهای داخلی را می‌دهد و مسیر انتقال اطلاعات به بقیهٔ سازمان ارزیاب را محدود می‌کند.

سه سطح دسترسی و حق انتشار چه تفاوتی دارند؟

Anthropic برای همکاری با ارزیابان بیرونی سه سطح را تعریف کرده است. تفاوت آن‌ها فقط گسترهٔ دسترسی نیست: در سطح نخست انتشار به موافقت شرکت وابسته است، در دو سطح بعد ارزیاب می‌تواند بدون تأیید قبلی گزارش بدهد. مقایسهٔ فشردهٔ هر سطح، همراه با اختیار حذف، چنین است:

• سطح نخست: موضوع، بررسی محدود یک خطر مشخص است و Anthropic تعیین می‌کند چه دسترسی‌ای فراهم شود. انتشار یافته‌ها به تأیید شرکت نیاز دارد؛ در شرح این سطح، سازوکار جداگانه‌ای برای حذف پس از تأیید انتشار تعیین نشده است.
• سطح دوم: ارزیاب اطلاعات بیشتری می‌گیرد و برای انتشار به اجازهٔ Anthropic نیاز ندارد. شرکت می‌تواند حذف دسته‌های مشخصی از اطلاعات را بخواهد، اما ارزیاب حق دارد نظرش را دربارهٔ موجه بودن حذف‌ها علنی کند.
• سطح سوم، جایگاه METR: دسترسی به ابزارها و سامانه‌های داخلی تقریباً هم‌سطح تیم ارزیابی ریسک است و حق انتشار به سطح دوم شباهت دارد. Anthropic نمی‌تواند کل تحلیل را وتو کند، ولی حذف اطلاعات واقع در دسته‌های از پیش تعیین‌شده را می‌خواهد و خود در نهایت تشخیص می‌دهد چه چیزی در این دسته‌هاست. METR می‌تواند اظهارات معینی دربارهٔ میزان دسترسی و اطلاعات دریافتی خود منتشر کند.

این تقسیم‌بندی به همهٔ طرف‌های همکاری وضعیت یکسان نمی‌دهد. SecureBio پس از انتشار یک بررسی آزمایشی، در حال بررسی بخش خطرات شیمیایی و زیستی گزارش ریسک Anthropic است؛ افزایش دسترسی آن به پایان این بررسی و تصمیم بعدی وابسته مانده است. Anthropic همچنین از کار با Accenture و Faculty برای ارزیابی مدل‌ها، آزمون خصمانه و بررسی تدابیر ایمنی سخن گفته، ولی برای آن‌ها جایگاه مستقر METR را اعلام نکرده است.

حق حذف دقیقاً کجای آزادی انتشار قرار می‌گیرد؟

نبود حق وتو به این معناست که Anthropic نمی‌تواند صرفاً به‌خاطر نتیجه‌گیری ناخوشایند، انتشار تحلیل METR را متوقف کند. اختیار شرکت در سوی دیگرِ فرایند قرار دارد: می‌تواند بخواهد اطلاعاتی از دسته‌های محرمانهٔ تعریف‌شده، مانند بازتولید مالکیت فکری محرمانه، از متن عمومی حذف شود. استثناهای دسترسی، از جمله دادهٔ مشتری و اطلاعات حقوقی محرمانه، نیز نشان می‌دهند که همهٔ شواهد حساس الزاماً به ارزیاب یا خوانندهٔ گزارش نمی‌رسند.

نکتهٔ تعیین‌کننده مرجع تشخیص است. در شرایط اعلام‌شده، Anthropic در نهایت خود تصمیم می‌گیرد چه اطلاعاتی در دسته‌های قابل‌حذف قرار می‌گیرد؛ داور بیرونی مستقلی برای حل اختلاف بر سر هر حذف معرفی نشده است. حق METR برای توضیح برخی جنبه‌های دسترسی و اطلاعات دریافتی می‌تواند به خواننده نشان دهد ارزیابی بر چه دامنه‌ای استوار بوده، اما شرایط علنی‌شده اختیار انتشار همهٔ جزئیات حذف‌شده را به آن نمی‌دهد. گزارش می‌تواند مستقل از تأیید نتیجه باشد، در حالی که بخش‌هایی از شواهد آن محرمانه می‌ماند.

چرا این ارزیابی هنوز نظارت الزام‌آور نیست؟

این ترتیبات چند ویژگی یک بررسی مستقل را دارد: گروهی بیرون از شرکت به داده‌ها و فرایندهای غیرعمومی نزدیک می‌شود و می‌تواند تحلیل خود را بدون تأیید نتیجه از سوی شرکت منتشر کند. Anthropic برای ارزیاب مستقل، تخصص، دسترسی کافی، نداشتن سهم در شرکت مورد بررسی و استقلال مالی و عملیاتی را معیارهای مطلوب می‌داند. معیار اعلام‌شده به‌تنهایی گواهیِ اجرای کامل آن در هر قرارداد و هر پروژه نیست.

خود METR در شرح رویکردش به همکاری با شرکت‌های هوش مصنوعی می‌گوید از شرکت‌های سازندهٔ مدل‌های پیشرفته پول یا کمک مالی نمی‌پذیرد و می‌کوشد محدودیت دسترسی، حذف‌های مؤثر بر نتیجه و فشارهای احتمالی را علنی کند. همان سیاست توضیح می‌دهد که در همکاری داوطلبانه، ارزیاب برای دریافت اطلاعات و امکان انتشار همچنان به رضایت شرکت وابسته است. این سیاست عمومی METR است و متن کامل توافق خاص گروه مستقر با Anthropic را بیان نمی‌کند.

برای حسابرسی انطباق، معیار مورد سنجش، دامنهٔ بررسی و شواهد باید روشن باشد؛ نظارت الزام‌آور علاوه بر آن اختیار مطالبهٔ اطلاعات یا تحمیل پیامد قانونی دارد. در همکاری فعلی، ارزیاب بیرونی می‌تواند دربارهٔ خطرها و رویه‌ها شاهد و تحلیل منتشر کند، اما سازوکار اعلام‌شده Anthropic را به اجرای توصیه‌های METR، توقف عرضهٔ مدل یا واگذاری تصمیم دربارهٔ محرمانگی ملزم نمی‌کند. اختیار تصمیم دربارهٔ توسعه یا عرضهٔ مدل‌ها نیز به METR منتقل نشده است. نخستین تحلیل گروه مستقر روشن خواهد کرد چه شواهدی از این دسترسی به دست آمده و چه بخش‌هایی از استدلال پس از حذف اطلاعات محرمانه برای عموم قابل‌بررسی است.

بیشتر بخوانید:

• viral.app فهرست سازندگان را یک‌جا وارد می‌کند؛ اما متن صفحه را نمی‌فرستد
• USDT یا USDC برای ایرانیان؛ شفافیت بیشتر ریسک مسدودی را حذف نمی‌کند
• AI وقت آزاد نکرد؛ ۸۵٪ کارکنان می‌گویند کارشان بیشتر شده است