שוב "לרדת לחושך": איתור פגיעויות ב-AI והחזרה של דרישות לדלתות אחוריות

בפוסט שפורסם ב-14 באוגוסט טוען הקריפטוגרף מתיו גרין מאוניברסיטת ג'ונס הופקינס כי הבינה המלאכותית עומדת להקשות מאוד על פריצה לתוכנה נפוצה — עם תופעת לוואי לא נוחה: רשויות אכיפת החוק והמודיעין בארה"ב עלולות "לרדת לחושך" ולאבד חלק ניכר מיכולת המעקב שלהן, לראשונה מאז 2010.

מהאזנות לטלפונים להצפנה מקצה לקצה

גרין מתחקה אחר המעבר מהאזנות לטלפוני ציבור בראשית שנות ה-2000 לסמארטפונים שאוגרים נתונים ולא רק משדרים אותם. ב-2010 החלה אפל להצפין את אחסון האייפון במפתח הנגזר מסיסמת המשתמש, אנדרואיד הלכה בעקבותיה זמן קצר לאחר מכן, וב-2011 נוספה הצפנה מקצה לקצה להודעות באייפון. עד 2014 היו ל-WhatsApp 600 מיליון משתמשים, ועד 2016 — כמעט מיליארד, כולם עם הצפנה מקצה לקצה כברירת מחדל בהודעות ובשיחות. ב-2014 הכריז ראש ה-FBI ג'יימס קומי על יוזמת "Going Dark", וב-2016 פנה הלשכה לבית המשפט כדי לאלץ את אפל לפתוח אייפון של יורה. אפל סירבה, וחברה חיצונית פרצה למכשיר במקומה — דפוס שנמשך עשור באמצעות כלים מסחריים כמו GrayKey ו-Pegasus של NSO.

עידן איתור הפגיעויות בעזרת בינה מלאכותית

שיווי המשקל הזה נמצא כעת תחת לחץ. באפריל הכריזה Anthropic על מודל בשם Mythos שהיה טוב במיוחד באיתור פגיעויות תוכנה; ממשלת ארה"ב חסמה זמנית את ייצואו, צעד שגרין מכנה חסר תועלת בעיקרו, שכן OpenAI ומעבדות סיניות למודלים פתוחים כמו Z.ai ו-Moonshot הוכיחו שאיתור פגיעויות לא יישאר מונופול של מעבדה אחת. המגנים מתקנים חוב של עשורים ומשנים את שרשרות ה-CI כך שסריקת פגיעויות מבוססת בינה מלאכותית תתבצע לפני שהקוד מגיע לאדם. גרין מעריך שתוך כשנתיים ייגמרו לתוכנה המרכזית הפגיעויות הניתנות לניצול מרחוק.

מדוע הדרישה לדלתות אחוריות תחזור

עבור סוכנויות זה סיוט: היצע הפגיעויות הזמינות נעלם, ולכן הביקוש לדלתות אחוריות מכוונות ומתוכננות מתחדד שוב, יחד עם לחץ על התעשייה לתכנן מחדש מערכות כך שיאפשרו "גישה חריגה". ממשלות מסוימות ירצו יכולות כאלה כדי לרגל אחר ממשלות אחרות, וגרין מטיל ספק בכך שזה יעבוד בעידן הבינה המלאכותית. התוצאה הגרועה ביותר, הוא כותב, היא שדלתות אחוריות חדשות יחלישו בעיקר את מערכות המדינות שדורשות אותן, ויעניקו ליריבים זרים דרכי תקיפה חדשות על התקשורת. תוכנית אין לו להציע.