פסיכולוג מהרווארד קורא להנדסת בטיחות שקולה של בינה מלאכותית במקום רטוריקה אפוקליפטית

הפסיכולוג מהרווארד סטיבן פינקר דחה את הטענה שבינה מלאכותית עומדת להשמיד את האנושות. הוא הציג את עמדתו במכתב פתוח שפורסם ב-Quillette ומופנה לפסיכיאטר והבלוגר סקוט אלכסנדר. אלכסנדר הציע לו עימות פומבי על הסיכונים הקיומיים של הבינה המלאכותית, אך פינקר סירב וכינה דיונים כאלה "ספורט לצופים".

הטיעונים של פינקר

פינקר דוחה תרחישי יום הדין, ובהם מה שמכונה ממקסם מהדקי הנייר, שבו בינה מלאכותית הופכת את האנושות לחומר גלם כדי לייצר עוד מהדקים. לדבריו, תרחישים כאלה מבלבלים בין תבונה לבין דחף לשלוט, ומניחים שהמערכת תרדוף בטירוף אחרי מטרה אחת תוך התעלמות מתופעות לוואי.

הוא הציג את הטיעונים הללו לראשונה בפרק בן 31 עמודים בשם "Existential Risk" בספרו Enlightenment Now מ-2018. לדבריו, לתרחישי יום הדין ארבעה פגמים: תפיסה בלתי מפותחת של תבונה, שכן היא נתפסת כמה כמות של כוח שאפשר להשליך ממנה עד לידיעה מוחלטת; ערבוב בין תבונה למוטיבציה, משום שהדחף להישרדות ולשליטה הוא תוצר של ברירה טבעית באדם ואינו טבוע במערכות מהונדסות; הנחה של מרדף אובססיבי אחר מטרה אחת; וההנחה שמהנדסים יעניקו למערכות כאלה שליטה בלתי מוגבלת ובלתי הפיכה בתשתית הפיזית של הכוכב.

הוא מפנה גם לניתוח מידול של RAND Corporation מ-2025, שהניח שבינה מלאכותית אכן שואפת להשמיד את האנושות, ובכל זאת הסיק כי "אין תרחיש שאפשר לתארו שבו הבינה המלאכותית היא איום הכחדה מובהק על האנושות".

מה הוא מודה בו

פינקר אינו מכנה את הטכנולוגיה בלתי מזיקה. הוא מודה שהמעיט בהערכת המידה שבה מודלי שפה גדולים יהפכו לכלליים, ולא צפה עד כמה מהר ובחוסר אחריות חברות מובילות ישחררו את מוצריהן. לדבריו, את המרוץ הזה מובילים דווקא אנשי אותה קהילה שמזהירה מפני הסיכונים.

מה באמת עובד

הסכנות שפינקר מתייחס אליהן ברצינות הן ביוטרוריזם, חבלה קיברנטית וסוכני בינה מלאכותית בלתי מבוקרים. לדבריו, הרטוריקה האפוקליפטית לא תועיל להן. מה שכן עובד הוא הערכת בטיחות שקולה ופרקטיקה הנדסית: פיקוח עצמאי, חקירה מחייבת של תאונות, אחריות לנזק, אדם בתוך הלופ ומנגנוני עצירה.

הוא מזהיר גם שנבואות חורבן נוטות להחמיר את המצב: הפחד הגרעיני של שנות ה-60 הוביל לא לפירוק נשק אלא למירוץ חימוש.

עמדתו של אלכסנדר

סקוט אלכסנדר הציג את עמדתו בבלוג שלו Astral Codex Ten ביוני. הוא מעריך את הסבירות שבינה מלאכותית תשמיד את האנושות ב-20%, ומבקש גם מחקר בטיחות חזק יותר וגם הסכמים בינלאומיים שיאטו את פיתוח הבינה המלאכותית.