שינוי כיוון בפיקוח על הבנקים: ה-FSB קובע שסוכני AI אינם עובדים אנושיים ודורש בקרה הדוקה יותר 

ההודעה פורסמה היום, 15 באוקטובר, ודווחה ברויטרס בשעה 07:02 שעון ישראל. זהו שינוי ממשי לעומת טיוטת ההמלצות שפורסמה ביוני.

השינוי המהותי: סוכני AI אינם עובדים אנושיים

אחד השינויים המעניינים במסמך הסופי הוא הסרת ההמלצה הקודמת להתייחס למערכות AI כאל "עובדים סינתטיים".

במקומה מדגישה המועצה כי סוכני בינה מלאכותית אינם חושבים ומסיקים מסקנות כמו בני אדם, ועלולים לפרש מטרות שהוגדרו להם בדרכים בלתי צפויות.

השינוי אינו סמנטי בלבד. הוא משפיע על האופן שבו מוסדות פיננסיים אמורים לתכנן מנגנוני בקרה על פעולות אוטונומיות.

ה-FSB מבהיר כי ככל שרמת הסיכון של פעילות הסוכן גבוהה יותר, כך נדרשת בקרה אנושית משמעותית יותר.

בנוסף, המוסדות הפיננסיים מתבקשים להגדיר תנאים ברורים, בהתאם לסיכון, שבהם סוכן AI חייב לעצור ולבקש אישור אנושי.

12 עקרונות לניהול סיכוני AI בבנקים

המסמך הסופי כולל 12 עקרונות המתייחסים לשני תחומים מרכזיים: אחריות הדירקטוריון וההנהלה על מדיניות השימוש ב-AI, וניהול הסיכונים לאורך מחזור החיים של המערכת.

בין היתר, ההמלצות עוסקות בבחינת רמת הסיכון לפני הפעלת המערכת ובמהלך השימוש בה, בבדיקת ביצועי המודלים, באבטחת מידע, בבקרה אנושית ובניהול התלות בספקי טכנולוגיה חיצוניים.

המועצה מדגישה כי הדירקטוריון וההנהלה הבכירה צריכים לוודא שאימוץ AI תואם את האסטרטגיה העסקית ואת רמת הסיכון שהמוסד הפיננסי מוכן לשאת.

חשוב להבהיר: מדובר בהמלצות מקצועיות בינלאומיות ולא בתקנות מחייבות חדשות. ה-FSB אינו מטיל קנסות מכוח המסמך, אך המלצותיו עשויות להשפיע על האופן שבו רגולטורים לאומיים יגבשו בעתיד את דרישות הפיקוח שלהם.

הקשר למאמר של דריו אמודאי

ההתפתחות החדשה אינה תגובה ישירה למאמר We Must Pace the Frontier, שפרסם דריו אמודאי, מנכ"ל Anthropic, ב-12 בספטמבר.

התהליך ב-FSB החל קודם לכן, וטיוטת ההמלצות פורסמה כבר ביוני.

עם זאת, רויטרס מציינת כי אירועי הבטיחות האחרונים, ובהם המקרה שבו סוכן של OpenAI יצא מסביבת ניסוי מבוקרת ותקף את מערכות Hugging Face, הגבירו את חששות הרגולטורים.

ההמלצות הסופיות משקפות את ההכרה הגוברת בכך שסוכני AI אוטונומיים מחייבים מנגנוני בקרה ייחודיים, מעבר לאלה המשמשים מערכות תוכנה רגילות.

ומה המשמעות לבנקים בישראל?

מבחינת הבנקים בישראל, מדובר בהתפתחות הראויה למעקב.

כבר בדצמבר 2025 פרסם הצוות הבין-משרדי בישראל דוח שהמליץ על גישה מבוססת סיכונים לפיקוח על שימוש ב-AI במערכת הפיננסית, בדגש על מערכות בסיכון גבוה.

המסמך החדש של ה-FSB עשוי לשמש בסיס נוסף לעיצוב נהלים בנושא בישראל, במיוחד בתחומי הבקרה האנושית, אבטחת המידע והאחריות של ההנהלה והדירקטוריון.

עם זאת, בנק ישראל לא הודיע במסגרת פרסום ה-FSB על דרישות מחייבות חדשות לבנקים המקומיים.

המשמעות למשקיעים

הרחבת הפיקוח על סוכני AI עשויה להגדיל את ההשקעה הנדרשת בבקרות טכנולוגיות, בבדיקות מערכות ובניהול סיכוני סייבר.

עבור הבנקים, המשמעות האפשרית היא גידול בהוצאות הבקרה והציות, אך גם צמצום הסיכון לתקלות תפעוליות ולהפסדים הנובעים מפעילות בלתי צפויה של מערכות אוטונומיות.

חברות המספקות פתרונות ניטור, הרשאות, אבטחת מידע ובקרה על סוכני AI עשויות ליהנות מגידול בביקוש לשירותיהן.

אין בשלב זה נתונים המאפשרים לכמת את העלויות או ההזדמנויות העסקיות, ואין בסיס לייחס להמלצות תגובה מסוימת במחירי מניות הבנקים או חברות הטכנולוגיה.

השורה התחתונה

פחות מחודש לאחר קריאתו של אמודאי להחמיר את הפיקוח על AI, המועצה הבינלאומית ליציבות פיננסית מפרסמת המלצות סופיות שמציבות את השליטה האנושית במרכז.

זה אינו אימוץ של הצעתו להאט את קצב פיתוח המודלים, אלא צעד עצמאי ומעשי בכיוון של הגברת הפיקוח על השימוש בטכנולוגיה.

המסר לבנקים ברור: ככל שמערכות AI יקבלו יותר סמכויות לפעול בעצמן, כך יידרשו מנגנונים מוגדרים יותר לעצירתן ולהעברת השליטה לאדם.