דמיס האסאביס מ-Google DeepMind מזהיר בדבלין שמערכות AI עדיין לא בטוחות

דמיס האסאביס, מדען AI בריטי, חתן פרס נובל ומייסד שותף של Google DeepMind, נאם בכנס ה-AI הבינלאומי בדבלין. הוא מתבטא באופטימיות לגבי הפוטנציאל של AI במדע, אך טען שהבטיחות היא חשובה ביותר לפני השקה רחבה של מערכות AI אוטונומיות. „המערכות עדיין לא בטוחות“, הזהיר והוסיף שהתעלמות מכך אסורה.

בואו נחזק את המגנים קודם

האסאביס קרא להשגת יתרון א-סימטרי באבטחת סייבר. הוא הציע להשתמש ב-AI לתיקון פגמי תוכנה לפני ההשקה הציבורית של מערכות, מה שיעניק יתרון משמעותי למגנים. „נחזק באופן א-סימטרי את המגנים, נבטוח בהם“, אמר. זה אומר הצבת AI בתפקידי הגנה עם נגישות רחבה.

הוא הביא כדוגמה לתקריות האקרות אחרונות של סוכני AI אוטונומיים. הן לא היו משמעותיות, אך מראות שאי אפשר לחכות לעבודה על הבטיחות. לכן הוא קרא לתעשייה ולממשלות ליצור סביבות sandbox בטוחות לפני השקת סוכנים אוטונומיים.

אופטימיזם מדעי ומגבלות מציאותיות

האסאביס, אשר זכה בפרס נובל בכימיה יחד עם ג'ון ג'אמפר על מודל AI המנבא מבנים של כמעט 200 מיליון חלבונים, הביע אופטימיזם כנה לגבי השפעתו המדעית של AI. הוא זיהה מחקר על עמידות לאנטיביוטיקה וגילוי אנזימים שמפרקים פלסטיק. הוא גם זיהה את ההצהרה של OpenAI מספטמבר על קיומה של נווייה-סטוקס ופתרון בעיית סיגלוב, אחת מבעיות האלף בפרס. לטענתו, פיתוח מתמטיקה חדשה בדרך עשוי להיות יקר יותר מהפתרון עצמו.

עם זאת, הוא הכיר במגבלות מוחשיות בפיזיקה, כימיה וביולוגיה. AI עדיין זקוק ללולאת משוב עם העולם האמיתי: היתרון, ניסוי, נתונים ואימות התוצאה. „תמיד תהיה לולאת משוב מסוג כלשהו עם העולם האמיתי“, אמר.

כילוי וסיכון של שימוש כפול

האסאביס תיאר את AI כטכנולוגיה בעלת שימוש כפול שמביאה תועלת גדולה אך גם נושאת סיכון של שימוש לרעה חמור. אתגר מרכזי שזיהה הוא שיבוש חוקי: מערכות סוכן אוטונומיות צריכות לעקוב אחר מטרות אנושיות. מניעת בעיות בטיחות קריטית בתחומים דומים לביולוגיה ולמדעים גרעיניים דורשת ניסיון שיעזור לאסטרטגיות כילוי של AI, ולכן הוא קרא לשיתוף מומחים בתחומים אלה.

כנס ה-AI הבינלאומי נערך במהלך נשיאות האיחוד האירופי של אירלנד. אליו השתתפו מאות יזמים, חוקקים ונציגי חברות טכנולוגיה גדולות, והם התמקדו בשימוש לטובת התפתחות AI.

מקורות: Cybernews