Gemma کلاه‌برداری را روی دستگاه می‌سنجد؛ پیام‌ها به سرور فرستاده نمی‌شوند

جوزفین تئو، وزیر توسعهٔ دیجیتال و اطلاعات سنگاپور، ۱۴ اکتبر ۲۰۲۶ در هفتهٔ بین‌المللی امنیت سایبری سنگاپور از همکاری Google DeepMind و سازمان فناوری دولت سنگاپور، GovTech، برای شناسایی کلاه‌برداری روی دستگاه خبر داد. او هدف حفظ حریم خصوصی را با عبارت «keeping their personal messages on their devices» بیان کرد. مدل معرفی‌شده برای بررسی نشانه‌های فریب در گفت‌وگو طراحی شده است؛ در این معماری، محتوای پیام برای تحلیل به سرور فرستاده نمی‌شود.

این همکاری هنوز به معنی دسترسی عمومی به یک قابلیت آمادهٔ نصب نیست. گزارش استریتس تایمز می‌گوید مدل برای کاربران Android در نظر گرفته شده، اما تاریخ انتشار آن اعلام نشده و حتی روشن نیست که به قابلیت پیش‌فرض این سیستم‌عامل تبدیل خواهد شد یا در برنامه‌های مشخصی قرار می‌گیرد. آنچه اکنون معرفی شده، مدل تنظیم‌شده و روش پردازش آن است؛ راه دسترسی کاربر به آن به تصمیم‌های بعدی دربارهٔ استقرار بستگی دارد.

غربال پیام، سپس بررسی زمینه با Gemma

در شرح فنی Google DeepMind، بررسی پیام دو مرحله دارد: یک طبقه‌بند سبک ابتدا پیام ورودی را غربال می‌کند و تنها پیام مشکوک را به مدل تنظیم‌شدهٔ Gemma می‌سپارد. Gemma در مرحلهٔ بعد بخش بزرگ‌تری از گفت‌وگو را می‌بیند تا احتمال فریب را در زمینهٔ چند رفت‌وبرگشت بسنجد. نتیجهٔ این بررسی می‌تواند هشدار کلاه‌برداری باشد یا کنارگذاشتن ظنی که غربال اولیه ایجاد کرده بود.

1. پیام ورودی در خود دستگاه از غربال کم‌مصرف می‌گذرد. اگر نشانهٔ تهدید دیده نشود، بررسی با نتیجهٔ عادی پایان می‌یابد.
2. اگر پیام مشکوک باشد، Gemma به زمینهٔ وسیع‌تری از همان گفت‌وگو رجوع می‌کند و دربارهٔ هشدار تصمیم می‌گیرد. این مرحله برای تشخیص الگوی دست‌کاری در جریان مکالمه طراحی شده است.

دیدن چند پیام پیاپی اهمیت دارد، چون فریب همیشه در یک جمله آشکار نمی‌شود. در یک مثال فرضی، درخواست انتقال پول ممکن است پس از چند پیامِ حاوی ادعای هویت و ایجاد فشار فوری مطرح شود؛ رابطهٔ میان این پیام‌ها برای ارزیابی خطر از خودِ درخواست مهم‌تر است. غربال اولیه نیز قرار است اجرای تحلیل سنگین‌تر را به موارد مشکوک محدود کند، زیرا مصرف باتری در تلفن یکی از ملاحظات طراحی اعلام شده است.

هشدار پیش‌بینی‌شده روی همان دستگاه ظاهر می‌شود و از کاربر می‌خواهد پیش از فرستادن پول یا اطلاعات حساس مکث کند. کنارگذاشتن ظن اولیه در مرحلهٔ Gemma بخشی از منطق این سامانه است، اما میزان هشدارهای اشتباه یا کلاه‌برداری‌های ازدست‌رفته در استفادهٔ واقعی منتشر نشده است. بنابراین از روی نمودار مراحل نمی‌توان دربارهٔ دقت هشدارها یا مصرف باتری یک تلفن مشخص نتیجه گرفت.

پیام کجا پردازش می‌شود و مدل به چه چیزی دسترسی دارد؟

مرز حریم خصوصی در این طرح، محل پردازش گفت‌وگوی کاربر است. پس از ادغام مدل در یک برنامه، بررسی الگوی پیام‌ها در خود دستگاه انجام می‌شود؛ برای اجرای این تحلیل، متن گفت‌وگو به سرور Google یا دولت سنگاپور ارسال نمی‌شود. این انتخاب برای پیام‌رسان‌های دارای رمزگذاری سرتاسری مهم است، چون بررسی محتوای خصوصی در سمت سرور با شیوهٔ محافظت از چنین گفت‌وگوهایی سازگار نیست.

محلی‌بودن پردازش به مدل مجوز دیدن همهٔ مکالمات تلفن نمی‌دهد. دسترسی آن هنگام استقرار به گفت‌وگوهای موجود روی دستگاه، رضایت کاربر و شرایط استفاده از برنامه‌ای وابسته خواهد بود که مدل را در خود ادغام می‌کند. در نتیجه، دامنهٔ پیام‌های قابل بررسی را شیوهٔ پیاده‌سازی برنامه نیز تعیین می‌کند. هنوز نام برنامه‌های میزبان و شکل دقیق درخواست این دسترسی اعلام نشده است.

محل تنظیم مدل با محل تحلیل پیام کاربر تفاوت دارد. Gemma با نمونه‌های محلی گفت‌وگوهای کلاه‌بردارانه در محیط ابری مدیریت‌شدهٔ GovTech تنظیم شده است. داده‌های این مرحله از گزارش‌های کلاه‌برداری و خوراک‌های اطلاعاتی ناشناس‌سازی‌شده به دست آمده‌اند و بنا بر توضیح پروژه، اطلاعات خصوصی یا داده‌های شناسایی‌کنندهٔ شهروندان از آموزش کنار گذاشته شده‌اند. این فرایندِ ساخت مدل به معنی انتقال گفت‌وگوی کاربران از تلفن هنگام استفاده از قابلیت نیست.

فایدهٔ پردازش محلی نیز حد مشخصی دارد: ادعای پروژه دربارهٔ محتوایی است که مدل برای تشخیص کلاه‌برداری بررسی می‌کند. جزئیات فنی برنامهٔ میزبان، از جمله نحوهٔ نمایش هشدار و گرفتن رضایت، همراه با خودِ استقرار روشن خواهد شد. برای کاربر، تفاوت اصلی این است که بررسی پیام در معماری اعلام‌شده در همان جایی انجام می‌شود که گفت‌وگو در دسترس است، بی‌آنکه سروری برای خواندن آن در مسیر تشخیص قرار گیرد.

الگوهای سنگاپوری و زمان دسترسی

مدل برای شناخت شکل‌های محلی فریب تنظیم شده است: جعل هویت نهادهای عمومی، بانک‌ها و چهره‌های شناخته‌شده، در کنار شیوه‌های رایج منطقه. هدف این تنظیم آن است که مدل بتواند گفت‌وگوی عادی را از الگوهای دست‌کاری متناسب با زمینهٔ سنگاپور جدا کند. این ویژگی برای جامعهٔ فارسی‌زبان هم مرز روشنی می‌سازد: ارزیابی با نمونه‌های سنگاپوری، عملکرد در گفت‌وگوهای فارسی یا روش‌های رایج در ایران و افغانستان را نشان نمی‌دهد.

آزمون‌های اعلام‌شده از گفت‌وگوهای ساختگی و مجموعه‌داده‌های محلی استفاده کرده‌اند. نتیجهٔ عددی دربارهٔ دقت مدل در استفادهٔ روزمره، نرخ هشدار اشتباه یا سرعت آن روی تلفن‌های گوناگون منتشر نشده است. همین داده‌ها تعیین می‌کنند که جداسازی غربال سبک از تحلیل Gemma در عمل چه تعادلی میان هشدار به‌موقع، مصرف باتری و مزاحمت هشدارهای بی‌مورد ایجاد می‌کند.

قرار است ادغام مدل در برنامه‌ها به‌صورت مرحله‌ای و با همکاری دولت سنگاپور پیش برود. هنوز تاریخ عرضهٔ عمومی، فهرست برنامه‌های پذیرنده و روش نصب اعلام نشده است؛ پس کاربر Android در حال حاضر راه اعلام‌شده‌ای برای فعال‌کردن این مدل تازه ندارد. گام بعدی این پروژه، مشخص‌شدن برنامه‌های میزبان و شرایط دسترسی آنها به گفت‌وگو است؛ همان جزئیاتی که تجربهٔ واقعی کاربر را از معماری معرفی‌شده جدا می‌کنند.

بیشتر بخوانید:

• حافظهٔ ابری Google کلید را به دستگاه می‌سپارد؛ ادعای حریم خصوصی زیر ذره‌بین
• رزومه یا GitHub؛ کد واقعی جای روایت شغلی را نمی‌گیرد
• پیام بدهیم یا جلسه بگذاریم؟ قانون سه رفت‌وبرگشت تصمیم را روشن می‌کند