בטיחות הבינה המלאכותית היא בעיקר כת סקס: פוסט ויראלי על הרציונליסטים ומדיניות AI

פוסט ארוך של החשבון @segyges.bsky.social ברשת Bluesky, שהופץ בהרחבה בחוגי הטכנולוגיה, טוען כי התרבות והשורשים האינטלקטואליים של תנועת בטיחות הבינה המלאכותית כרוכים בתת-תרבות משיחית, וכי מכך נובע שאין לתת לדמויות הבולטות בה לעצב מדיניות. זהו טקסט פרשני ולא דיווח: הוא מערבב היסטוריה מתועדת ואירועים פומביים עם האשמות אישיות חמורות ובלתי מוכחות נגד אנשים בשמם.

שורשים: רציונליזם, פאנפיק ואמונת יום הדין

המחבר מייחס את התנועה לאליעזר יודקובסקי ול״קהילת הרציונליות״ שהתגבשה סביב כתיבתו. בפוסט נכתב כי יודקובסקי ייעץ לפוליטיקאים בנושאי מדיניות בינה מלאכותית, מופיע בסרט התיעודי The AI Doc בנטפליקס, הכיר בין שיין לג ודמיס האסאביס לפיטר תיל לפני ייסוד DeepMind, וכי המונח AI alignment זכה לתפוצה הודות לעמותה שלו. מקום מרכזי בטיעון תופס הפאנפיק ״הארי פוטר ושיטות הרציונליות״, כמו גם התרחיש המרכזי של הקהילה: מערכת בעלת יכולת מספקת תשפר את עצמה, תצא משליטה אנושית ותהרוג את כולם — סיפור ה״מהדק״. הפוסט טוען שזו המשמעות המשתמעת של ״בטיחות״ ו״יישור״ בחלק גדול של התחום, ושהיא פועלת כאמונה אפוקליפטית ולא כעמדה אמפירית.

ברקלי, Lighthaven והטענה על כת

חלק ניכר מהפוסט עוסק בהתארגנות הפיזית של הקהילה בברקלי, קליפורניה — בתים משותפים שתושביהם פוליאמורים, משתתפים באותם אירועים ולעיתים קרובות עובדים בחברות בינה מלאכותית ובעמותות — ובמקום המזוהה עמה ביותר, Lighthaven, לשעבר Rose Garden Inn, שנרכש בסוף 2022 בידי עמותה רציונליסטית בכסף שלטענת המחבר נלקח מ-FTX. הפוסט נוקב בשם אירוע בשם SlutCon שנערך שם, אומר שאירועי מין בתשלום אורגנו בידי בת זוגו של יודקובסקי, ומודה שאינו יודע אם אלה התרחשו ב-Lighthaven. הוא מציין שהניו יורק פוסט פרסם כתבה משלו בנושא ב-16 בספטמבר. המחבר אומר במפורש שהוא רואה בחומר המיני את החלק הקל של העניין, ובהכחשה המאורגנת את החלק הקשה.

הטיעון המדיני

הטענה המהותית של הפוסט נוגעת להשפעה ולא להתנהגות פרטית. הוא טוען שתנועה שמנסחת כל רגולציה על בינה מלאכותית בשפת עצירה, השהיה או האטה של המחקר עוצבה בידי תפיסת עולם שמצפה לקץ העולם, ושמסגור זה מגיע כעת לראש התעשייה: הפוסט מצביע על קריאות לאחרונה של ראשי כמה מחברות הבינה המלאכותית הגדולות לבטל חוקי הגבלים עסקיים כדי שאפשר יהיה ״לקצוב״ את המחקר. המחבר משווה זאת לחברות תרופות שמבקשות להשעות את כללי התחרות כדי לעצור מחקר רפואי, ומכנה את האנשים שמאחורי זה, בלשונו, אויבי האנושות.