ביל גייטס מזהיר: גל מתקפות הסייבר הבא עלול להגיע עם כוח של AI 

ביל גייטס, ממייסדי מיקרוסופט, מזהיר שהסכנה הקרובה ביותר מהבינה המלאכותית אינה בהכרח מערכת שתשתלט על העולם, אלא אנשים שינצלו את הטכנולוגיה כדי לפגוע באחרים. בריאיון לג'ייק טאפר בתוכנית State of the Union של CNN, ששודר ב-11 באוקטובר, העריך גייטס כי מתקפות סייבר יהיו אחד הביטויים הבולטים ביותר לסיכון הזה בשנה הקרובה.

לדבריו, השילוב בין גורמים זדוניים, מודלים מתקדמים והסרת מנגנוני ההגנה עלול להביא ל״הרבה הפתעות שליליות״. זו הערכת סיכון של גייטס, לא התרעה על מתקפה מסוימת ולא תחזית ודאית לגבי היקף הנזק.

לא צריך שהמחשב ימרוד כדי שייגרם נזק

גייטס מבחין בין שימוש זדוני במערכות קיימות לבין אובדן שליטה רחב במערכות עתידיות. להערכתו, ההשלכות הגדולות של הסיכון השני עדיין נמצאות במרחק של שנים, אף שיש להמשיך לעבוד על מניעתו. האיום המיידי יותר, לדבריו, הוא שימוש ביכולות שכבר קיימות כאשר אמצעי ההגנה אינם פועלים או מוסרים.

מבחינת ארגון עסקי, זו הבחנה חשובה: אין צורך להמתין לפריצת דרך בבינה מלאכותית כדי להתמודד עם סיכון. בהנחיותיה הטכניות מזהירה מיקרוסופט שסוכן בעל גישה רחבה מדי לכלים ולנתונים עלול לבצע פעולות בעלות השפעה גדולה בעקבות תקיפה או שגיאה בתהליך העבודה. הסיכון נובע גם מההרשאות שניתנו למערכת, לא רק מרמת האינטליגנציה שלה.

למשל, סוכן שנועד להכין דוח יכול לקבל הרשאה לקריאת מסמכים בלי לקבל סמכות למחוק אותם, לשנות נתוני לקוח או להעביר מידע מחוץ לארגון. ההבדל בין הפעולות האלה עשוי להיות קטן מבחינת ממשק המשתמש, אבל גדול מבחינת הנזק האפשרי.

גייטס: הפיקוח לא יכול להישאר רק בידי החברות

גייטס דוחה את הרעיון שפיקוח עצמי של מפתחי הטכנולוגיה הוא מענה מספק. הוא משווה את הצורך בפיקוח ציבורי למסגרות הבטיחות הקיימות בתעופה, ברכב ובתרופות, ומעריך שבשנה הקרובה תגבר ההכרה בצורך בגופי בטיחות ממשלתיים. זו ציפייה שלו להתפתחות המדיניות, לא הודעה על רגולטור חדש שכבר הוקם.

לצד הביקורת, הוא אינו מאשים את הענף כולו בהסתרת הסיכונים. בריאיון אמר שהחברות דווקא מביעות דאגה רבה, בעוד שהמודעות של מקבלי ההחלטות לעוצמת המערכות ולמורכבותן עדיין נמוכה יותר. מבחינתו, נדרש מסלול ביניים: לא היעדר הגנות, אך גם לא עצירה מוחלטת של הטכנולוגיה.

נאדלה: היכולת אצל המודל, הסמכות אצל הארגון

יום קודם לכן, ב-10 באוקטובר, הציג סאטיה נאדלה, יו"ר ומנכ"ל מיקרוסופט, גישה משלימה. במאמר שפרסם קרא להתייחס למודלים מתקדמים כאל גורמים פנימיים בעלי הרשאות רגישות, שעלולים לטעות או להיפגע מתקיפה. הפתרון שהוא מציע הוא להפריד בין המודל לבין המנגנונים הקובעים לאילו נתונים יוכל לגשת ואילו פעולות יוכל לבצע. 

נאדלה דורש תיעוד של פעולות שאינו ניתן לשינוי בדיעבד, בדיקות עצמאיות ויכולת של אדם מורשה לעצור מערכת באמצע משימה. הוא מדגיש שהמודל אינו צריך להיות גם מי שמבצע את הפעולה וגם הגורם היחיד שמספק ראיות לכך שביצע אותה כראוי.

זו הצעת עקרונות לתכנון מערכות, לא הודעה שכל הבקרות כבר הוטמעו בכל מוצרי מיקרוסופט. היא גם אינה מבטיחה שאפשר יהיה למנוע כל תקלה. המטרה היא לצמצם את התלות בכך שהמודל עצמו תמיד יתנהג כמצופה.

גם המשקיע דיוויד סאקס נתן גיבוי פומבי לעמדת נאדלה. בתגובה ב-X, שתועדה ב-Techmeme, הוא התנגד לגישות המעניקות למודל תחושת עצמיות ופילוסופיה מוסרית משלו כבסיס לבטיחות. זו עמדה בוויכוח על תכנון מערכות AI, ולא ממצא מחקרי המוכיח שגישה מסוימת בטוחה יותר או החלטת מדיניות ממשלתית. 

בקונגרס רוצים סמכות לעצור, לא רק המלצה

הדרישה למנגנון עצירה מקבלת גם ביטוי פוליטי. חבר הקונגרס הדמוקרטי טד ליו הגיב למאמר נאדלה ואמר שהוא מסכים עם עיקריו. ליו קרא לקדם עוד השנה את AI Kill Switch Act, הצעת החוק הדו-מפלגתית שהגיש עם חבר הקונגרס הרפובליקני נתניאל מורן. עצם הצעת החוק אינה חדשה: היא הוצגה ב-23 ביולי 2026.

הנוסח מבקש לחייב גופים מסוימים המפעילים מערכות AI עוצמתיות לשמור על יכולת טכנית להגביל את פעילותן, להפסיק גישת משתמשים או להשביתן. הוא מציע גם סמכות חירום למשרד לביטחון המולדת להורות על התערבות בעקבות אירועים חמורים המוגדרים בהצעה.

ההבחנה בין המלצה הנדסית לבין חובה משפטית מהותית: ארגון יכול להחליט מרצונו לבנות מנגנון עצירה, בעוד שחקיקה עשויה לחייב אותו להוכיח שהמנגנון קיים ופועל. המסמך שנבחן הוא הצעת חוק, ואין להציג את הדרישות שבו כחובות חדשות שכבר נכנסו לתוקף.

כפתור עצירה לבדו אינו מספיק

גם כאשר קיימת אפשרות להשבית סוכן, צריך לבדוק מה קורה להרשאות שכבר קיבל. מיקרוסופט מציינת כי עצירה עלולה להיות חלקית אם אישורי גישה נשארים תקפים, מפתחות משותפים ממשיכים לפעול או מערכות המשך אינן בודקות מחדש את ההרשאה. לכן, לצד עצירת התוכנה נדרשים גם ביטול גישה ותיעוד המאפשר לשחזר את פעולותיה.

מבחינת מנהל סיכונים, המבחן אינו רק האם מופיע כפתור אדום במסך. השאלה היא האם הפעלתו באמת מפסיקה את הפעילות שעלולה לגרום נזק, והאם הארגון יודע מה המערכת הספיקה לעשות עד אותו רגע.

המשמעות למשקיעים: יותר צורך באבטחה אינו רווח מובטח

מבחינה עסקית, התרחבות הדרישות לניטור, לניהול הרשאות ולביקורת עשויה ליצור מקורות הכנסה נוספים לספקי אבטחה ותוכנה. אבל הדרך מצורך טכנולוגי להכנסה רווחית אינה אוטומטית.

התרחיש החיובי לחברות בתחום הוא שארגונים יעבירו מערכות AI משלב הניסוי לפעילות שוטפת רק לאחר רכישת שכבת בקרה נוספת. מנגד, ייתכן שחלק מהיכולות ייכללו בחבילות הענן והתוכנה הקיימות, בלי תשלום נפרד משמעותי. ספק עצמאי יצטרך להוכיח שהפתרון שלו מצדיק את העלות הנוספת.

אצל הלקוח, המשוואה הפוכה: כל בקרת הרשאה, בדיקה והתערבות אנושית עשויה להוסיף עלות ולפעמים גם להאט את העבודה. מיקרוסופט עצמה מציינת את מורכבות התפעול ואת החיכוך בתהליכים רגישים כחלק מהפשרות הכרוכות בהגבלת הרשאות לסוכנים.

לכן, בחינת הכדאיות של AI צריכה לכלול לא רק כמה שעות עבודה הוא חוסך, אלא גם כמה עולה להפעיל אותו בבטחה. באותו אופן, משקיע בחברת אבטחה צריך לחפש הזמנות, הכנסות ורווחיות בפועל, ולא להסתפק בריבוי אזהרות על איומים.

דברי גייטס והתגובות אליהם אינם מאפשרים להסיק שמניה מסוימת צפויה לעלות, וגם אינם מוכיחים שהוצאה חדשה כבר הגיעה לדוחות החברות. הם כן מחדדים את השאלה העסקית שתלווה את הענף: מי יצליח לספק לארגונים יותר יכולות AI, בלי להעניק למערכות יותר סמכות מכפי שניתן לפקח עליה.