מהבטחה למעשה: אנתרופיק פתחה את מערכותיה לשישה בודקים חיצוניים 

שלושים ושלושה ימים אחרי שמנכ״ל אנתרופיק, דריו אמודאי, פרסם את המאמר We Must Pace the Frontier, הודיעה החברה על יישום ראשון של אחת מהתחייבויותיו המרכזיות: ב-15 באוקטובר היא אישרה כי שישה אנשי ארגון המחקר העצמאי METR החלו לקבל גישה למערכותיה הפנימיות בתנאים הקרובים לאלה של עובדי צוותי הערכת הסיכונים. זוהי התקדמות מעשית ביחס להבטחה המקורית, אף שאין בה כשלעצמה הוכחה להאטה בקצב פיתוח מודלי AI.

מה בדיוק מקבלים הבודקים?

לפי הודעת אנתרופיק, הצוות קיבל ציוד מחשוב של החברה, מקום עבודה וגישה לכלים ולמערכות פנימיות. הבודקים אמורים לבחון סיכונים, אירועים ונהלי בטיחות ולפרסם מסקנות באופן עצמאי. אנתרופיק אינה יכולה להטיל וטו על פרסום הממצאים, אך יכולה לדרוש השחרות של מידע המשתייך לקטגוריות מוגדרות מראש, ובהן מידע על לקוחות, חיסיון משפטי ופרטים על ארכיטקטורת המודלים. חשוב לציין כי החברה היא שמחליטה אילו פרטים שייכים לקטגוריות הללו, בעוד METR רשאית להתייחס בפומבי להיקף הגישה ולמגבלות שהוטלו עליה.

החברה מגדירה שלוש רמות של גישה לגופי ביקורת. ההסדר עם METR הוא הרחב שבהן. שיתופי הפעולה עם SecureBio ועם יחידת Faculty של Accenture נמצאים בשלבים מוקדמים יותר, עם גישה מצומצמת יותר. ברויטרס דווח גם על מתיחות בין חברות המודלים לבודקים סביב מידע מסחרי רגיש ועצמאות הפרסום.

הקשר הישיר למאמר

במאמר שפרסם ב-12 בספטמבר הציג אמודאי שלושה שלבים: שילוב בודקים עצמאיים בתוך החברות, תיאום תקני בטיחות בין חברות מובילות ותיאום בינלאומי. השלב הראשון היה היחיד שאנתרופיק התחייבה לבצע חד-צדדית. ההודעה החדשה מממשת חלק מההתחייבות הזו, אך אין פירושה ששני השלבים האחרים הושגו או שקצב האימון והשקת המודלים כבר הואט.

תמונת נגד כלכלית: תרחיש של 44 טריליון דולר

בהתפתחות נפרדת מ-17 באוקטובר, שעליה דיווח דיוויד לאודר ברויטרס, אמר ג׳ק קלארק, ממייסדי אנתרופיק, בכינוס קרן המטבע והבנק העולמי בבנגקוק, כי אחד המודלים הכלכליים הפנימיים של החברה מציג אפשרות שהתוצר האמריקאי יגיע ל-44 טריליון דולר ב-2030, לעומת מעט יותר מ-30 טריליון דולר כיום. קלארק עצמו הגדיר את המספר חריג מאוד. מדובר בתרחיש מותנה, לא בתחזית מאקרו מוסכמת או בהתחייבות של החברה, ואין להסיק ממנו שצמיחה כזאת צפויה בהכרח להתממש. קלארק הדגיש במקביל צורך בכללים בינלאומיים מחמירים לטכנולוגיה.

מה המשמעות למשקיעים?

העמקת הביקורת החיצונית עשויה להגדיל את הוצאות הציות, ההערכה והאבטחה של מפתחי AI, ולפתוח שוק נוסף לשירותי בדיקות עצמאיות וניהול סיכונים. עבור משקיעים באנתרופיק ובמתחרותיה, מבחן מהותי יהיה האם הבודקים יכולים לפרסם גם ממצאים ביקורתיים, ומה יקרה לאחר שיזהו כשל משמעותי. מנגד, תרחישי פריון קיצוניים עשויים להמחיש את פוטנציאל הצמיחה, אך אינם מספקים בסיס עצמאי לתמחור חברות או תשתיות AI. אין ראיה המאפשרת לקשור להתפתחויות הללו תנודה מסוימת במחירי מניות.