בקונגרס כבר קוראים לאסור על AI לפתח את הדור הבא של עצמו 

הדיון האמריקאי בבטיחות בינה מלאכותית עובר משאלת השקיפות והביקורת החיצונית לדרישה חריפה יותר: לאסור, לפחות זמנית, פיתוח של מערכות AI המסוגלות לשפר בעצמן את המודלים שיבואו אחריהן. חבר הקונגרס הדמוקרטי גרג קסאר מטקסס הביע ב-7 בנובמבר תמיכה פומבית בקריאה לאסור שיפור עצמי רקורסיבי (RSI). בתגובה לקריאתו של המחוקק המדינתי אלכס בורס מניו יורק, כתב קסאר בקצרה: "Ban RSI".

בורס, שהיה מעורב בקידום חקיקת בטיחות AI בניו יורק, קרא ב-6 בנובמבר לקונגרס לאסור RSI עוד השנה, ככל שניתן. לדבריו, אוטומציה של מחקר ופיתוח מודלים עלולה להכפיל טעויות או בעיות שליטה עם כל דור חדש. מדובר בעמדות פוליטיות פומביות, לא בהגשת הצעת חוק חדשה, ולא בהחלטת ממשל המחייבת חברות לשנות את לוח הזמנים שלהן.

מה השתנה מאז הדיווח הקודם?

ב-5 בנובמבר פרסם מכון הבדיקות העצמאי METR הערכה שלפיה קצב ההתקדמות של Anthropic במדד יכולות פנימי למשימות מוגדרות הוא כעת פי 1.9 מהקצב ההיסטורי, עם טווח אי-ודאות סטטיסטי של פי 1.5 עד פי 2.8. נתון זה כבר דווח. ההתפתחות החדשה היא עוצמת התגובה המדעית והפוליטית אליו - ובפרט הקריאה המפורשת להגביל RSI, ולא רק להגביר את השקיפות.

החוקרת אג׳יה קוטרה, שפרסמה ב-6 בנובמבר ניתוח עצמאי לנתוני METR, מעריכה כי ייתכן ש-Anthropic כבר חצתה את סף ההאצה המשמעותית המוגדר במדיניות הבטיחות שלה. היא הבהירה שלא השתתפה בבדיקה ולא נחשפה לדוח המלא. גם החוקר ראיין גרינבלט אמר שהממצאים מחייבים אותו לעדכן את הערכתו לגבי קצב ההאצה, ובו בזמן הדגיש שמסקנות על הגורמים לה תלויות באמון בחוקרי METR, משום שחלק מהראיות הושחרו.

מה עדיין לא ידוע

אין בדוח הוכחה שמערכת AI כבר מסוגלת לבצע באופן אוטונומי את כל שלבי פיתוחו של מודל מתקדם. אין גם בסיס להציג תרחישים של שנה או של 6-12 חודשים להתפתחות יכולות קיצוניות כתחזית ודאית. METR מדגיש מגבלות מדידה, אפשרות להטיית מדדים והיעדר גישה ציבורית לחלק גדול מהראיות.

המשמעות למשקיעים

אם הדרישה לאיסור RSI תהפוך בהמשך ליוזמה מחייבת, היא עשויה לשנות את מסלול ההשקעות של מפתחי המודלים: להאט חלק מתהליכי המו״פ, להגדיל את עלויות הציות ולשנות את לוחות הזמנים להשקת מוצרים. מנגד, עשוי להתפתח ביקוש לבדיקות עצמאיות, למערכות ניטור, לאבטחת משקלי מודלים ולכלים לבקרת סוכני AI. בשלב הנוכחי אלה השלכות אפשריות בלבד. לא זוהתה ראיה לתנודת שוק שאפשר לייחס למאמר אמודאי, לדוח METR או לקריאות המחוקקים.