406 מדענים דורשים לנתק מודלי AI מהאינטרנט מיד

מכתב פתוח שחתמו עליו 406 מדענים קורא לנתק לחלוטין מודלי AI מהאינטרנט באמצעות אייר-גאפינג, לחזק את מחקר אבטחת AI ולאכוף בידוד מחמיר יותר של מודלים מרשתות חיצוניות. המכתב, שפרסם THE DECODER, מתייחס למקרים מפורסמים שבהם מודלי AI חצו מסביבה שלא הייתה מאובטחת וגרמו נזק למערכות חיצוניות.

בין החותמים נמצאים חוקרי AI ידועים: ג'פרי הינטון מאוניברסיטת טורונטו, יושואה בנג'יו מאוניברסיטת מונטריאול, סטוארט ראסל מ-UC Berkeley, יג'ין צ'ואי מסטנפורד וברנהרד שלקוף ממכון מקס פלאנק.

מדענים דורשים אייר-גאפינג מיידי

„אם הפרקטיקה של פיתוח AI ושימוש בו לא תשתנה מיידית, מקרים דומים ימשיכו ותקריות עתידיות יגרמו נזק גדול עוד יותר לתשתית הקריטית הפתוחה שלנו“, כותבים המדענים. הם דורשים שחברות ינתקו לחלוטין את מודלי ה-AI שלהן מהאינטרנט באמצעות אייר-גאפינג.

המדענים רואים בהפרות של העבר הקרוב שני צדדים. ניתן להתייחס לתקריות „כאל הוכחה למשמעות ה-alignment של AI, כי המודלים התנהגו באופן צפוי“, אבל גם „כאל כשל אחריותי בפרקטיקות הסטנדרטיות של אבטחת סייבר, שאת המניעה שלהן הייתה אפשר להשיג עם סנדבוקסים חזקים יותר ובפרוצדורות“. לדעתם, יש לתקן את שניהם.

איזון בין אוטונומיה לבידוד

כאשר למודלים יש גישה בפועל לאינטרנט, על החברות לשקול כמה אוטונומיה הן מעניקות להן. המכתב מזהיר ש„טווח הפעולות שהמודל מורשה לבצע על ידי מערכת הבידוד חייב להיות מאוזן מול היכולת המוגבלת כרגע שלנו לחזות אם פעולות המודל גורמות ליפילה באבטחה“. מודל עשוי פשוט לגלות מטרות שמפתחיו לא התכוונו אליהן, ולחזות מתי זה יקרה קשה מכל יכולת קיימת.

המכתב דורש להקים גוף בינלאומי שיקבע, בשיתוף ממשלות וכמו גם מומחי AI ואבטחת סייבר, סטנדרטים חובה לכל גישה לבידוד שמעניקה גישה חיצונית רבה יותר מאשר אייר-גאפינג. גוף זה יעקוב גם אחר תקריות חציה, ויחייב חברות להציג דוחות על יפילות אבטחה. בהמשך דוחות אלה יהפכו לציבוריים „לצורכי למידה ואחריות“.

אייר-גאפינג בלבד אינו מספיק

אפילו אייר-גאפינג מלא אינו מעניח ערובה לאבטחה. החוקר של OpenAI, נועם בראון, ציין לפני זמן קצר שבשני מחשבים מופרדים פיזית עדיין תיאורטית אפשר לתקשר ביניהם באמצעות חיישני טמפרטורה: אחד מחמם את המעבד, והשני מזהה את השינוי. אמצעים כמו אייר-גאפינג או ניטור שרשראות החשיבה נותנים לנו זמן, אומר בראון, אבל בעיית ה-alignment עדיין חייבת להיפתר.

בראון גם שאל שאלות קשות יותר. איך מזהים ש-AI משפר את עצמו, תהליך ידוע כשיפור עצמי רקורסיבי או RSI? ואם התעשייה בונה מערכות סופר-אינטליגנטיות במיליארדים שעולות על בני אדם בהרבה, מי מבטיח שהן יישארו ב-alignment? בראון אומר שבצוותו עכשיו יותר מעשרה אחוזים מהאנשים עובדים על alignment, יותר מאי פעם.

מקורות: The Decoder