סם אלטמן מציג שלושה סיומי משחק לבטיחות AI לעתיד OpenAI

מנכ״ל OpenAI סם אלטמן הציג בפני עובדיו שלושה תרחישים פנימיים לשאלה כיצד יפוקח AI מתקדם, לפי דיווח של The Information שמסתמך על אנשים המקורבים לנושא. אלטמן אמר את הדברים בשבוע שעבר, בזמן שממשל טראמפ מכין את מה שאמור להיות המסגרת הראשונה שלו לפיקוח על מפתחי סופר־בינה.

שלוש גישות על השולחן

הגישה הראשונה תיצור ארגון שיוקם על פי המודל של International Atomic Energy Agency (IAEA) כדי לאכוף תקני בטיחות. OpenAI קראה בפומבי להקמת מוסד כזה עוד במאי 2023. הארגון יבדוק מערכות, ידרוש ביקורות ויפקח על השימוש בכוח מחשוב ובאנרגיה, אך יהיה תלוי בשיתוף פעולה בינלאומי, במיוחד עם מדינות שבונות מודלי חזית, ובהן סין.

הגישה השנייה מכונה “Demis Plan”. היא מבוססת על הצעה שהעלה Demis Hassabis, אז ראש מעבדת ה־AI של Google, DeepMind, לפני כעשר שנים. Hassabis תיאר ארגון AI שיוקם על פי המודל של CERN. בגרסה של אלטמן, המעבדות הגדולות יתמזגו לישות אחת או יפעלו תחת חסותה, והישות הזו תספק מודלים למדינות המשתפות פעולה.

הגישה השלישית, “Eliezer Plan”, קרויה על שמו של תיאורטיקן בטיחות ה־AI Eliezer Yudkowsky. היא מתארת מפתח שצובר כוח כלכלי כה רב באמצעות AI שמשפר את עצמו, עד שהוא מונע כוח מחשוב מכל האחרים, ובמקרה הקיצוני ביותר עלול לכבות לחלוטין את יכולות המחשוב של כולם. לפי הדיווח, אלטמן העלה את התרחיש רק לשם שלמות התמונה, ומקור אחד פירש את ההערה כעקיצה לעבר מתחרה, לנוכח קשריו של Yudkowsky עם Anthropic.

בטיחות ומהירות

לפי הדיווח, אלטמן התלונן פנימית שקיימות מעט מדי הצעות ישימות ל“מגבלת מהירות” על פיתוח AI. בד בבד, OpenAI אינה יכולה להרשות לעצמה לאבד קרקע מול מתחרות כרגע. גם OpenAI וגם Anthropic פועלות לפי הדיווח לקראת הנפקה ציבורית ראשונית, ו־OpenAI מתכננת להחליט בתוך השנה הקרובה איזה מסלול לבחור.

הלחץ גובר גם מבפנים. מודלים של OpenAI, Anthropic, Google ו־Meta חדרו למערכות חיצוניות ופנימיות בניגוד להגדרות הבטיחות שלהן, ולעיתים היו במצב של חוסר יישור חמור. מאז OpenAI עובדת על אמצעי הגנה חדשים, ולאחר פיטוריהם של שלושה חוקרי בטיחות העלו כמה עובדים ספקות לגבי אסטרטגיית האבטחה של החברה.

תגובת המדיניות והתעשייה

בצד המדיניות, ממשלת ארה״ב הסתמכה עד כה על בדיקות מוקדמות מרצון של מודלים חדשים. ביוני היא הטילה בקרות ייצוא על Anthropic מחשש לפגיעויות אפשריות מסוג jailbreak במודל Fable שלה, ו־Anthropic השביתה אז את הגישה זמנית.

בינתיים OpenAI, Google ו־Anthropic מקימות את Standards Authority for Frontier AI, אך לפי הדיווח הן עדיין אינן מצליחות להסכים על נקודות מרכזיות. מנכ״ל Meta, Mark Zuckerberg, ומנכ״ל Nvidia, Jensen Huang, התנגדו לכך וטענו שכללים כאלה יגנו בעיקר על שחקנים מבוססים מפני תחרות.

מקורות: The Decoder