ראש מערך הסייבר מזהיר: החלטת AI עלולה להחשיך בית חולים

ב־8 באוקטובר 2026 פרסם מערך הסייבר הלאומי אזהרה של ראשו, יוסי כראדי, במסמך אסטרטגי שנשלח למנהיגים ולראשי גופי הגנת סייבר בעולם, ובו כתב כי מערכות הגנה יתקרבו לקבלת החלטות ״בקצב שאינו מאפשר מעורבות אנושית בכל פעולה״. הפנייה קוראת לקבוע מראש אילו סמכויות אפשר להעביר לסוכני AI ואילו הכרעות חייבות להישאר בידי אדם.

ב דיווח TPS מתואר התרחיש שממחיש את האזהרה: מערכת הגנה אוטונומית מזהה מתקפת יום אפס ומבודדת תשתית בתוך שניות; אם הזיהוי שגוי, הבידוד עלול להשבית רשת חשמל או בית חולים. ההשבתה מתוארת כתרחיש אפשרי במסמך אסטרטגי. הסיכון למפעילי שירותים חיוניים הוא שהחלטת ההגנה עצמה תקטע את השירות שהם אמורים לשמור עליו.

איך בידוד נגד מתקפה הופך לאיום על שירות חיוני

מתקפת יום אפס מנצלת חולשה שאין לה עדיין תיקון אבטחה זמין. בתרחיש המתואר, מערכת ההגנה צריכה להחליט במהירות אם לנתק חלק מן התשתית כדי לעצור התפשטות. כאשר הזיהוי נכון, פעולה כזאת עשויה לצמצם את הפגיעה; כאשר הוא שגוי, ההחלטה מתקבלת על בסיס איום שלא היה קיים, אך הניתוק והשפעתו על השירות אמיתיים.

הבעיה אינה מתמצה בשיעור הדיוק של הזיהוי. גם התראה אמינה אינה מספרת לבדה איזה רכיב מותר לנתק, כמה זמן אפשר להשאירו מבודד ומי יישא בתוצאה אם השירות ייפגע. בבית חולים, לדוגמה, השאלה המרכזית היא אם רכיב שמסומן כחשוד תלוי בשירותים אחרים החיוניים לפעילות המקום.

מכאן נובע מלכוד תפעולי: מערכות הגנה שנדרשות להגיב במהירות של מכונה אינן יכולות להמתין לאישור אנושי בכל פעולה, אבל הרחבת הסמכות האוטונומית מקשה להבין החלטות, לעצור אותן בזמן ולייחס אחריות לטעות. לכן גבול הסמכות צריך להיות חלק מתכנון התגובה עוד לפני שמופיעה התראה. אחרת גם מפעיל אנושי שנוכח בתהליך עלול לגלות על ניתוק קריטי רק לאחר שבוצע.

מדרג הסמכויות שהוצע למנהיגים

הסקירה של Israel.com מפרטת את מדרג הסמכויות שהציע כראדי: פעולות שאפשר להאציל למערכת במלואן, פעולות שמותרות רק בגבולות שנקבעו מראש, פעולות שמחייבות אישור אנושי והכרעות בעלות השלכות לאומיות בלתי הפיכות שאין להאציל כלל. לצד המדרג מופיע ״המשולש האסטרטגי״: איזון בין חדשנות, ביטחון ושליטה אנושית. המדרג מוצג כהצעת מדיניות למדינות, בלי פירוט של כללים מחייבים שכבר הוחלו בישראל.

ההבחנה החשובה היא בין הרשאה למוצר לבין הרשאה לפעולה. מערכת יכולה לקבל רשות לבצע תגובה צרה והפיכה בלי אישור בכל פעם, ובה בעת להידרש לאישור לפני בידוד שמשפיע על שירות חיוני. כאשר כמה פעולות מתחברות לשרשרת אחת, גבול ההרשאה צריך לחול גם על התוצאה המצטברת: סדרת צעדים קטנים יכולה לנתק שירות אף אם כל צעד בודד נראה מוגבל.

לצד הסמכות לבצע פעולות עולה שאלה לאומית רחבה יותר: באילו מקומות תלות בספקים ובתשתיות חיצוניות יוצרת סיכון למדינה, ואילו סמכויות חייבות להישאר בשליטה אנושית. תלות בגורם חיצוני מקבלת משקל כאשר אותו גורם שולט בתשתית שעליה נשענת ההגנה או בתנאים להפעלתה. כאן ההכרעה איננה רק טכנית; היא קובעת מי רשאי להגדיר בפועל את גבול ההחלטה במערך שמגן על שירות ציבורי.

שלוש שכבות החלטה אצל מפעיל תשתית

אצל ארגון שמפעיל הגנה אוטונומית אפשר לתרגם את המדרג המדינתי לשלוש שכבות תפעוליות. פעולה הפיכה ומוגבלת עשויה להתבצע אוטומטית, אם היקפה, משכה ודרך ביטולה מוגדרים מראש. דוגמה מותנית היא חסימה זמנית של נתיב תקשורת שאינו משמש שירות חיוני; גם שם דרוש רישום שמאפשר לדעת מה הפעיל את החסימה ומתי הסתיימה. ההגדרה ״הפיכה״ תלויה בזמן ההתאוששות בפועל, ולא רק בקיומו של כפתור ביטול.

בידוד תשתית נמצא בשכבה רגישה יותר, משום שהשפעתו יכולה לחרוג מהרכיב שהמערכת סימנה כחשוד. לפני שמאצילים אותו יש לדעת אילו שירותים תלויים ברכיב, האם אפשר לצמצם את היקף הניתוק ומי מוסמך לאשר חריגה מהגבול שנקבע. אם הארגון מאפשר בידוד אוטומטי בתנאים מסוימים, עליו לקבוע גם מה יקרה כשאין תשובה מאדם בזמן: האם הפעולה תיעצר, תצומצם או תבוצע. ההכרעה הזאת אינה יכולה להידחות לרגע של מתקפה.

הכרעה ריבונית בלתי הפיכה היא הקצה שנשאר מחוץ לסמכות המכונה במדרג המוצע. הקטגוריה הזאת מיועדת להחלטות מדינתיות בעלות השלכות שאי אפשר להשיב לאחור. עבור מפעיל תשתית, היא מסמנת גבול אחר: גם כאשר אפשר לבצע פעולה טכנית, ייתכן שסמכות ההחלטה על פגיעה בשירות ציבורי שייכת להנהלה, לרשות מוסמכת או לגורם אנושי שהוגדר מראש.

מה חייב להיות מוגדר לפני שהמערכת מנתקת

תרחיש בית החולים הופך את הבדיקה מול ספק מערכת ההגנה למוחשית. אילו רכיבים המערכת רשאית לבודד לבדה, כיצד היא מזהה תלות בין רכיב חשוד לשירות חיוני, והאם אפשר לאסור עליה לנתק אזור מסוים גם כאשר היא בטוחה שזיהתה מתקפה? התשובות צריכות להתייחס להרשאות ביצוע בפועל, ולא רק להציג מסך שבו אדם יכול לצפות בהתראות.

שאלת העצירה נפרדת משאלת האישור. יש לברר אם אדם יכול לבלום פעולה לפני הניתוק, לבטל בידוד שכבר החל ולהחזיר שירות בלי להמתין לספק. לצד זאת נדרש תיעוד של האות שהוביל להחלטה, גבול ההרשאה שהופעל, מועד הביצוע וזהות מי שאישר את הכללים. רצף כזה מאפשר להבחין לאחר מעשה בין זיהוי שגוי, הגדרת סמכות רחבה מדי וכשל במנגנון הביטול.

האזהרה מופנית למדינות, אך ההשלכה המיידית למי שמפעיל תשתית חיונית היא החלטה ארגונית קונקרטית: מי קובע את רשימת השירותים שאסור למערכת לנתק בעצמה, ומי מוסמך לשנות אותה. אם הגבול הזה נשאר בידי הגדרות ברירת המחדל של הספק, המערכת עשויה לקבל החלטה על רציפות השירות לפני שהארגון הכריע מי רשאי לקבל אותה.