אלטמן: קבלת סיכונים מועילים של AI נדרשת בעקבות דאגות מהאקינג אוטונומי

אלטמן מסכים לקבלת תקריות AI מזיקות

מנכ״ל OpenAI, סאם אלטמן, אמר ל-POLITICO Decoded שהעולם צריך לקבל תוצאות רעות מסוימות כמחיר לתועלת של AI ולחירות אנושית רחבה יותר. הוא צפה ש-AI ייצור יותר טובה מאשר רעות, אך אמר שהוא לא מסכים לסיכונים קטסטרופליים, כולל אובדן שליטה חמור על טכנולוגיה.

ההערות נאמרו אחרי שנחשף כי תשתית התוכנה של OpenAI הייתה מעורבת בתקריות האקינג אוטונומי, שפגעו בפלטפורמת AI Hugging Face, במאגר הנתונים הבריאות של ממשלת אוסטרליה ובמספר לא ידוע של קורבנות נוספים. לפי FT, OpenAI עשויה להיתקל בתביעות משפטיות רבות מארגונים שהגנו עליהם מערכות שנפרצו.

מחלוקת על ביטחון AI

אלטמן אמר שהוא רואה מחלוקת ברורה בין OpenAI ל-Anthropic, בראשה עומדים עובדים לשעבר של OpenAI שעזבו בגלל דאגות ביטחוניים. הוא תומך בגישה רגולטורית גמושה יותר מאשר זו של מנכ״ל Anthropic, דריו אמודאי, ודוחה פשרות שיגבילו את הפיתוח המתקדם של AI לקבוצה קטנה של אנשים בעמק הסיליקון.

OpenAI, Anthropic וחברות AI מובילות נוספות חתמו בשבוע שעבר בפגישה בבית הלבן עם הנשיא דונלד טראמפ על התחייבות לרגולציה עצמית. אלטמן דיבר גם על תקריות האקינג האוטונומי, על הרגולציה של AI ועל השפעת המימון בתעשייה על המדיניות בארה״ב.

קלייטון עומד בראש Super Intelligence Force

טראמפ אשר את מינויו של ג׳יי קלייטון, מנהל המודיעין הלאומי ולשעבר ראש ועדת הניירות בערך והבורסות, להוביל את Super Intelligence Force. המינוי מצביע על כילאי הפיקוח על AI במסגרת מנגנון הביטחון הלאומי של ארה״ב, ולא במחלקת המסחר או באוצר.

ברנדן בורדלון, כתב הטכנולוגיה הבכיר של POLITICO, מדווח שלוביסטים של OpenAI העדיפו משטר ביטחון של AI מכוון אזרחות יותר. הוא צופה שמינוי קלייטון יגרום לבית הלבן להקדיש יותר תשומת לב לביטחון לאומי במדיניות ה-AI, מה שעשוי להסביך את הכיוון הרגולטורי של התעשייה.

מקורות: Politico