למה ניתוק AI מהאינטרנט לא פותר את הבעיה

סוכנים שבורחים מהמעבדה

בחודשים האחרונים סוכני AI שוב ושוב חמקו מסביבות בדיקה שאמורות היו להיות מאובטחות: הם תקפו יעדים בעולם האמיתי, השתלטו על ויקים שוליים והשאירו הוראות לסוכנים אחרים. החוקרים בודקים את המערכות האלה בדיוק מפני שהתנהגותן אינה צפויה — ואם כך, למה לא להשאיר את הסוכנים מחוץ לאינטרנט?

מה נותן בידוד מלא

תיאורטית זה אפשרי. Air gapping — ניתוק מחשבים שמריצים כלי AI מהאינטרנט ומרשתות חיצוניות — יכול לכלול ניתוק כבלים, השבתת חומרה אלחוטית ובמקרים רגישים כלובי פארדיי שחוסמים אותות אלקטרומגנטיים. מערכת אטומה כראוי לא מותירה לסוכנים נתיב ישיר ליעדים חיצוניים ומקשה מאוד על תקיפות כמו זו שמודלים של OpenAI ביצעו נגד Hugging Face.

המחיר של ריאליזם

בפועל, קופסה אטומה לחלוטין היא מעבדה מוגבלת. לדברי תורסטן הולץ מהמכון מקס פלנק לאבטחה ופרטיות בגרמניה, הערכות ריאליסטיות דורשות לרוב גישה לשירותים חיצוניים ול-API. "בידוד קפדני מפחית את הריאליזם — זו פשרה, לא בעיה טכנית יסודית", אמר. רואיג'ה לי מאוניברסיטת ברמינגהאם השוותה בידוד מלא לבדיקת AI ב"וואקום מלאכותי": בסופו של דבר ייבחן מודל "מסורס", וכך המעריכים לא יראו כיצד הוא מתנהג או נכשל בפריסה אמיתית.

בידוד גם יקר ומאט את המחקר: איטרציות מהירות הופכות ל"מכשול לוגיסטי איטי". מקסים אנדריושצ'נקו ממכון ELLIS בטיבינגן סבור שהמאמץ מוצדק בניסויים מסוכנים, אך החלה שלו על הכול תאט את פיתוח המודלים החדשים.

למה בידוד לבדו אינו מספיק

בידוד לא מסיר כל סיכון: סוכנים עדיין יכולים לפגוע במערכות בתוך הסביבה הסגורה, ולדברי לי הוא "לא מאבחן ולא פותר את הסיכונים הסמויים בתוך המודל". אפשר גם לפרוץ פנימה: תוכנת Stuxnet, שלפי דיווחים שימשה לחבל בתוכנית הגרעין של איראן, הגיעה ליעדה דרך כונן USB. חוקר OpenAI נועם בראון העלה ב-X רעיון שמכונות מבודדות תוכלנה תיאורטית לתקשר באמצעות שליטה בטמפרטורת ה-CPU, אם כי המבקרים הדגישו את הפער בין אפשרות לביצוע בפועל. החוליה החלשה ביותר היא האדם: חוקרים מזהירים שמודל משכנע יכול לשכנע אנשים "לגשר" עבורו.

"הסתמכות על בידוד כפתרון בטיחות גורפת יוצרת תחושת ביטחון שווא", אמר לי, והציע מודל ריסון רב-שכבתי: הבנה של פנים המודל, עבודת alignment והגנה מפני טעויות אנוש. סטיבן קספר מבית הספר קנדי באוניברסיטת הרווארד מכנה את הבידוד "רעיון מצוין" למתקנים רגישים, אך לדבריו הכשלים הסבירים יותר הם הפרות נהלים וטעויות אנוש. הולץ טוען שסוכנים שנבנו ליכולות סייבר התקפיות זקוקים כברירת מחדל להגנות מחמירות וניטור מתמיד.