מדיניות AI לעובדים: חמישה סעיפים שמונעים דליפה בלי לחסום עבודה

בהשראת מסגרת ניהול סיכוני ה־AI של NIST, אפשר לנסח מדיניות לעובדים בחמישה סעיפים: כלים מותרים, סוגי מידע, אישור אנושי, תיעוד ודיווח על תקריות. בכל סעיף קובעים מה העובד רשאי לעשות בעצמו, מתי עליו לעצור ומי מוסמך להחליט. ההפרדה הזאת מאפשרת עבודה שגרתית בכלי מאושר, ובמקביל מציבה גבול ברור לפני הזנת מידע שעלול להיחשף.

זוהי תבנית להתאמה, לא נוסח אחיד לכל ארגון. מלאו בה את שמות הכלים, בעלי התפקידים והערוצים המופיעים בסוגריים, והתאימו את סיווג המידע לכללים שכבר חלים במקום העבודה. עובד צריך להיות מסוגל להבין מהדף עצמו אם מותר לו להתחיל במשימה, בלי לנחש מה משמעות הביטוי ״שימוש אחראי״.

כלים מותרים: להגדיר מסלול עבודה מאושר

נוסח למדיניות: ״מותר להשתמש ב[כלים וחשבונות מאושרים] לצורך [משימות מותרות]. שימוש בחשבון פרטי, בכלי שאינו ברשימה, בתוסף או בחיבור למערכות הארגון מחייב אישור מראש של [בעל תפקיד] דרך [ערוץ בקשה]״. לצד כל כלי ציינו אם האישור כולל העלאת קבצים, עיבוד מידע פנימי או חיבור למאגר. אישור לנסח טקסט בשיחה עם כלי אינו אישור לתת לו גישה לתיבת דואר או למערכת לקוחות.

הסעיף מצמצם מצב שבו עובד בוחר כלי לפי נוחות ומעביר אליו מידע בלי שנבדקו הרשאותיו ותנאי השימוש בו. כדי שבקשת אישור לא תהפוך לתנאי לכל פעולה, כתבו במפורש מה אפשר לעשות מיד: למשל ניסוח ראשוני על בסיס חומר פומבי בכלי המאושר. [אחראי רשימת הכלים] יעדכן את הרשימה ואת ההרשאות כשנוסף כלי או משתנה אופן השימוש בו.

סוגי מידע: לקבוע מה נכנס לכלי

הסיווג צריך לחול על כל מה שנשלח לכלי, לרבות טקסט שהועתק, קובץ מצורף וצילום מסך. מטריצה קצרה נותנת לעובד תשובה לפני ההזנה; החליפו את הדוגמאות בהתאם לסיווג המידע בארגון:

• מידע פומבי: תוכן שכבר פורסם לציבור או נתוני דמה שאינם כוללים פרטים אמיתיים. אפשר להזין אותו לכלי המאושר למשימה, תוך שמירה על כללי הארגון לגבי שימוש בחומרים של אחרים.
• מידע פנימי: טיוטות, נהלים ונתונים עסקיים שלא פורסמו. אפשר להזין רק את החלק הדרוש למשימה, ורק לכלי ש[אחראי אבטחת מידע] אישר במפורש לסוג מידע זה.
• מידע מוגבל: פרטים אישיים, מידע על לקוחות, סיסמאות, מפתחות גישה וסודות מסחריים. אין להזין אותו בשימוש הרגיל; חריגה דורשת אישור מתועד של [בעלי התפקידים המתאימים] לכלי ולמטרה שהוגדרו.

ב מרכז הידע הממשלתי נקבע כי לכלי AI שלא הוטמע לשימוש ממשלתי מותר להעלות מידע פומבי בלבד. ההנחיה מיועדת לעובדי המגזר הציבורי; בארגון אחר יש לקבוע את הגבול לפי הכלי, ההרשאות וסוג המידע שלו. אם פסקה קצרה עדיין מאפשרת לזהות לקוח או לחשוף תוכנית שלא פורסמה, קיצור הטקסט לבדו אינו משנה את הסיווג שלה.

אישור אנושי: לציין מי בודק ומתי

נוסח למדיניות: ״פלט של AI משמש טיוטה. העובד המשתמש בו בודק עובדות, מספרים, הפניות וזכויות שימוש בתוכן. לפני פרסום חיצוני או החלטה המשפיעה על אדם, [בעל תפקיד] מאשר את התוצר או ההחלטה״. הגדירו מהו פרסום חיצוני אצלכם: תשובה ללקוח, מסמך לציבור או הודעה רשמית בשם הארגון. כך נקודת האישור נקבעת לפי השפעת התוצר, ולא לפי עצם פתיחת הכלי.

הבדיקה משתנה לפי המשימה. בסיכום פגישה משווים טענות לרישום המקורי; בטקסט מקצועי פותחים את ההפניות ובודקים שהן תומכות בטענה; ובהמלצה הנוגעת לאדם בוחנים את העובדות ואת הנימוק לפני פעולה. אפשר לאפשר לעובד לערוך טיוטה פנימית בלי סבב אישורים, כל עוד התוצר נבדק לפני שליחתו החוצה או שימוש בו בהחלטה. הסעיף מצמצם את הסיכון שתשובה משכנעת אך שגויה תקבל מעמד של עובדה מאושרת.

תיעוד: לשמור את ההחלטה בלי להעתיק את כל השיחה

נוסח למדיניות: ״כאשר שימוש ב־AI תורם לתוצר חיצוני, להחלטה מהותית או לתהליך חוזר, מתעדים ב[מקום מאושר] את שם הכלי, מטרת השימוש, סוג המידע שהוזן, שם הבודק והאישור שניתן״. השדות מאפשרים לברר כיצד נוצר תוצר ומי נשא באחריות לבדיקתו. ברעיונות ראשוניים המבוססים על מידע פומבי אפשר להסתפק בתיעוד התוצר הסופי לפי נוהל העבודה הקיים.

אל תיצרו יומן שמעתיק אוטומטית כל שיחה, פרומפט וקובץ. יומן כזה עלול להפוך למאגר נוסף של מידע אישי או עסקי דווקא בשם הבקרה. קבעו איזה תיעוד נחוץ, היכן הוא נשמר, מי רשאי לגשת אליו וכמה זמן שומרים אותו לפי כללי הארגון. כאשר תקרית מחייבת שמירת פרטים נוספים, מעבירים אותם בערוץ המיועד לכך ולא בקבוצת הודעות פתוחה.

דיווח על תקריות: לתת כתובת ופעולה מיידית

נוסח למדיניות: ״מי שהזין בטעות מידע מוגבל, קיבל פלט שחושף מידע שלא אמור להופיע, או מצא טעות מהותית בתוצר שכבר נשלח, מפסיק להשתמש בתוצר ומדווח ל[ערוץ דיווח] ול[בעל תפקיד]. בדיווח מציינים את הכלי, מועד השימוש, סוג המידע או התוצר, היקף החשיפה הידוע ומה כבר נעשה״. [בעל תפקיד] מחליט מי בודק את המקרה, מי מתקן תוצר שנשלח ומתי אפשר לחזור לשימוש בכלי.

הפרופיל של NIST לבינה מלאכותית גנרטיבית מתאר סיכונים של חשיפת מידע ותוכן שגוי, ומציע להגדיר אחריות ותוכניות תגובה לתקריות הקשורות לכלי צד שלישי. לכן ערוץ הדיווח צריך לקבל גם חשיפה אפשרית וגם טעות שכבר השפיעה על עבודה, ולהעביר כל מקרה לגורם המתאים: אבטחת מידע או פרטיות במקרה של חשיפה, ובעל התוכן במקרה של טעות מקצועית. העובד אינו צריך להכריע לבדו אם כבר נגרם נזק כדי לדווח.

לפני הפצת הדף, ודאו שכל שדה בסוגריים מוביל לשם, לרשימה או לערוץ קיימים. השאירו לעובדים דרך פשוטה לבקש אישור לכלי או לשימוש חדש: כך הגבולות נשארים ברורים גם כשהמשימות משתנות.