Jaan Tallinn, מהמשקיעים הראשונים ב-Anthropic, מזהיר מפני סכנות הבינה המלאכותית

הוול סטריט ג'ורנל פרסם פרופיל של Jaan Tallinn, מתכנת אסטוני ומייסד-שותף של Skype, שהיה מהמשקיעים הראשונים ב-Anthropic. בכתבה של Kate Clark, שפורסמה ב-25 בספטמבר, נכתב כי Tallinn בילה את השבוע האחרון בניו יורק, בעצרת הכללית של האו"ם, ושב והזהיר יזמים, משקיעים וקובעי מדיניות: הבינה המלאכותית עלולה לכלות את האנושות.

Tallinn מתריע מפני סיכוני AI כבר למעלה מעשור. הנושא שב למרכז הדיון בשבועות האחרונים, לאחר שחוקר Anthropic בשם Jacob Coxon התפטר והזהיר ש-AI עלול לצאת מכלל שליטה. "לצערי, אני סבור שאיננו מתייחסים לאיום הזה ברצינות מספקת ושאנחנו מתחרים בינינו בבניית טכנולוגיה שעלולה לכלות את האנושות", אמר Tallinn בהצהרה.

ההימור על Anthropic

ב-2021, זמן קצר אחרי ש-Dario Amodei וחוקרים נוספים עזבו את OpenAI, בין היתר בשל שיקולי בטיחות, והקימו את Anthropic, הסכים Tallinn להוביל סבב Series A בגובה 124 מיליון דולר. בסבב השתתפו גם מייסד-שותף Facebook Dustin Moskovitz, James McClave מ-Jane Street, הקרן Center for Emerging Risk Research ומנכ"ל Google לשעבר Eric Schmidt. לפי נתוני PitchBook שצוטטו בכתבה, ההשקעה שיקפה לחברה הצעירה שווי של 461 מיליון דולר.

קרנות הון הסיכון המסורתיות נעדרו כמעט לחלוטין וראו ב-Anthropic דוד מול גוליית של OpenAI. Tallinn סיפר שהשקיע מתוך תקווה שקולו יישמע במקום שבו נבנית טכנולוגיה מסוכנת.

עשור של אזהרות

Tallinn, בן 54, נולד באסטוניה וגדל מאחורי מסך הברזל; הוריו היו אדריכל ובמאית קולנוע. אחרי תואר בפיזיקה תאורטית הוא לקח חלק בבניית שירות שיתוף הקבצים Kazaa ואחר כך Skype, שאותו רכשה Microsoft מאוחר יותר ב-8.5 מיליארד דולר. ב-2008 עבודותיו של חוקר ה-AI Eliezer Yudkowsky שכנעו אותו בפוטנציאל הקטסטרופלי של הטכנולוגיה.

כיום הוא נחשב לאדם העשיר באסטוניה, עם הון מוערך של 12 מיליארד דולר, והוא מימן יוזמות לבטיחות AI בכ-170 מיליון דולר, לפי רשימת התרומות שפרסם. הוא ממייסדי Cambridge Centre for the Study of Existential Risk ו-Future of Life Institute.

ב-2011, בשיחה עם Dario Amodei, הוא השמיע תחזית שהתפרסמה. "אני מעריך את ההסתברות שנמות מאסון AGI במספרים דו-ספרתיים", אמר לפי תמלול. "מבחינתי זה כאילו אנחנו מנסים לנטרל פצצה". Amodei היה פחות בטוח: "ייתכן שיש פצצה וייתכן שאין".

מה הלאה

חלקו של Tallinn צפוי לגדול בחדות אם Anthropic תשלים את ההנפקה שהשוק מצפה לה. Rauno Miljand, שותף מנהל בחברת ההשקעות של Tallinn, Metaplanet, סיפר לכתב העת שהחברה מנסה להחליט כיצד להשתמש בתמורה מההנפקה, שעשויה לעבור 2 טריליון דולר, לטובת האנושות. "אם יתברר ש-Anthropic נכשלה והגיעה לאפס, זה דבר טוב, כי אז כנראה שלא הגענו ל-ASI והאנושות פשוט קנתה לעצמה עוד שנים", אמר. "זה סוג של מצב שבו כולם מרוויחים".