‏WSJ: ותיקי Anthropic שוקלים לקנות קרקע מרוחקת למקרה ש-AI ייצא משליטה

לפי הוול סטריט ג'ורנל, כמה מהעובדים הוותיקים ביותר ב-Anthropic דנו ברכישת קרקע באזורים מרוחקים בארה"ב, שאליהם יוכלו לעבור אם פיתוח הבינה המלאכותית ייצא מכלל שליטה. הדיווח פורסם ב-26 בספטמבר.

על פי הדיווח, העובדים אמרו לאחרונה לקולגה מהתעשייה שהם שוקלים רכישה כזו כתוכנית מגירה ממשית. הם מתוארים כ"חלק מהעובדים המוקדמים ביותר" של החברה.

תרחיש בסגנון פרויקט מנהטן

הרעיון להימלט מהבינה המלאכותית אינו חדש בחוגים האלה. עובדים לשעבר נזכרים שאפילו בארוחות חברה בשנותיה הראשונות של Anthropic דנו בתרחיש בסגנון פרויקט מנהטן: ייתכן שיבקשו מהם לעבור למדבר ולהמשיך לבנות בינה מלאכותית בתוך מתקן ממשלתי ממוגן מפני קרינה אלקטרומגנטית.

לאורך השנים באותם חוגים שקלו גם לקנות איים מרוחקים, לאגור כדורי יוד או לעבור לבונקרים ממוגנים במדבר, כותב העיתון.

שורשים באלטרואיזם אפקטיבי

הדיווח עוקב אחר הקשר ההדוק בין העובדים המוקדמים ביותר ב-Anthropic וב-OpenAI לבין תת-התרבות של האלטרואיזם האפקטיבי (EA). חלקם מגיעים מרשת של "דומרס" באזור מפרץ סן פרנסיסקו, ששיחקו במשך שנים תרחישי סוף עולם. אליעזר יודקובסקי, שהחל להזהיר מפני בינה מלאכותית בלתי נשלטת באמצע שנות ה-2000, הפך לאב הרוחני של תת-התרבות הזו; עוד לפני שהבינה המלאכותית עמדה בראש רשימת האיומים, התמקדה הקבוצה בסיכונים קטסטרופליים כמו פגיעת אסטרואידים וסופר-וולקנים.

חלק ניכר מהפעילות הזו מתרכז בחלל עבודה משותף בברקלי בשם Constellation, שבו חוקרי בטיחות בינה מלאכותית דנים בסיכונים החדשים בארוחות חודשיות; לעובדי Anthropic יש שם משרד משלהם, לפי אנשים הקרובים לקהילה. העובדים גם דנים בתרחישי סוף עולם בערוץ Slack פרטי ומדביקים על המחשבים סיסמה: "דברים כבר לעולם לא יהיו רגועים". חלק מהפרויקטים שלהם גייסו עובדים ומימון מרשת המזוהה עם EA, כולל מסם בנקמן-פריד, לשעבר מנכ"ל FTX שמרצה כעת 25 שנות מאסר.

למה זה חשוב

האנשים שמכינים את תוכניות המגירה האלה הם חלק מהאנשים שבונים את הטכנולוגיה שממנה הם חוששים. גם OpenAI וגם Anthropic נוסדו מתוך עיקרון של בלימת סכנות הבינה המלאכותית, והשפעת קהילת הבטיחות חזקה במיוחד ב-Anthropic, שלפי התיאור בעיתון נמצאת על סף הנפקה ציבורית בשווי 2 טריליון דולר.

דובר Anthropic אמר שלחברה יותר מ-3,500 עובדים עם מגוון רחב של דעות. הדיווח מתפרסם על רקע דיון ציבורי מחודש בסיכוני בינה מלאכותית: העיתון מציין שהתפטרותו החודש של חוקר Anthropic, ג'ייקוב קוקסון, משכה תשומת לב לרעיון שפיתוח בינה מלאכותית בלתי נשלט עלול לחסל את האנושות.