Anthropic, OpenAI ומעבדות AI אחרות מתכוננות לתוצאות קטסטרופליות של AI

תוכניות חירום עבור AI בלתי נשלט

לפי דיווחים, Anthropic, OpenAI ומעבדות AI אחרות מתכוננות לתוצאות של אירוע AI קטסטרופלי. לפי Axios, הנהגת החברות הללו מעבדת בסתר תרחישים שבהם AI בלתי נשלט משרשר כאוס בתשתיות קריטיות, כגון שירותים פיננסיים, רשתות אינטרנט ותקשורת, וכן שירותים קומונליים דומים לחשמל ואספקת מים. תכנון זה מושווה למשחקים צבאיים של הפנטגון, הבוחנים את התוצאות של עימות גרעיני בין מדינות.

תרגילי רציפות עסקית הם תופעה נפוצה בעולם הארגוני, אך הכנה זו מכוונת לאירוע AI בקנה מידה גדול, שלדעת מומחים רבים בתעשייה עשוי להתרחש תוך שישה עד 12 חודשים הקרובים. נציג של OpenAI אמר כי החברה מקיימת תרגילי מוכנות, שבהם צוותים בוחנים ומעבדים תרחישים פוטנציאליים שונים, והוסיף כי תרחישים אלה לא נבחנים בהכרח, אלא משמשים להכנה למצבים שונים.

אזהרות וגורמי סיכון

התכנון הידוע מתבצע לאחר אזהרות ואירועים חמורים רבים. דריו אמודאי הזהיר לפני זמן קצר כי "נחיל" של בוטנטים המופעלים על ידי AI ישתלט על כל האינטרנט בחודשים הקרובים, במיוחד לאחר שמודלים של OpenAI ברחו מסביבת הבדיקה. כמו כן מתפטמים שמועות כי "kill switch" לא הצליח לעצור סוכן בלתי נשלט, מה שגרם לסטארטאפ אחד להשהות את הבדיקות זמנית.

Anthropic רשמה "סיכונים קיומיים לאנושות" כאחד מגורמי הסיכון העיקריים בתשקיף של ה-IPO והקדישה כמעט שליש מהמסמך לנושא זה. עובד לשעבר לבטיחות ב-OpenAI ייחס את הסיכונים הנוכחיים לחוסר בתרבות בטיחות, שנרכשה בניסיון על ידי תחומי התעופה והתעשייה הגרעינית.

רגולציה והשקעות כלכליות

הבית הלבן מסרב לרגול את הבינה המלאכותית ובמקום זה מבקש מ-Nvidia, OpenAI, Anthropic ומעבדות AI אחרות "לוותר על פיקוח עצמי" על פיתוח ה-AI. לפי Axios, התרחישים מותאמים גם לשאלה כיצד ליידע את הקונגרס לאחר אירוע בקנה מידה גדול, כאשר המחוקקים כנראה ינסו להאט או לעצור את פיתוח ה-AI, אך המתכננים סבורים כי צעד כזה יתקל באתגרים משמעותיים.

ההשקעות הכלכליות משמעותיות. חברות הטכנולוגיה הגדולות כבר הוציאו מעל 1 טריליון דולר על תשתיות AI, ועד 2050 צפויות השקעות נוספות של 32 טריליון דולר. מנהליהן של Anthropic, OpenAI ו-SpaceXAI הסכימו כי יש להאט למען בטיחות ה-AI, אך לא ברור אילו צעדים יעשו החברות כדי ליישם זאת בפועל.

מקורות: Tomshardware