Meta תיקנה פרצת יום-אפס ב-Muse שאיפשרה להשתלט על סוכן ה-AI

חברת Meta הוציאה תיקון חירום לאפליקציית Muse ל-macOS לאחר שחוקר האבטחה פטריק וורדל גילה פרצת יום-אפס שאיפשרה לתוקף להשתלט על סוכן ה-AI. לפי Ars Technica, הפרצה נשענה על הגדרה לא מתועדת ב-Muse שאיפשרה לקוד שכבר פועל במחשב להפנות את עיבוד התמלול משרתי Meta לנקודת קצה שבחר התוקף — ובכך לקבל גישה לחשבון ה-Muse של הקורבן.

מה אפשרה הפרצה

מספר החלטות תכנוניות יצרו את הבעיה: ההכתבה ב-Muse מתבצעת בענן ולא במכשיר, וכל אפליקציה יכלה לשנות את כל ההגדרות הלא מתועדות של Muse. וורדל בנה התקפות הוכחה-לקונספט שבאמצעותן צילם תמונות וכתב קבצים זדוניים לדיסק דרך הסוכן — במקרים רבים בלי להתריע למשתמש.

״אנחנו יכולים לתמרן את הסוכן ולנצל את ההרשאות שלו כדי לעשות מה שנרצה. כלומר, במקום שנצטרך לכתוב תוכנה זדונית מקיפה ל-macOS לגניבת נתונים, אנחנו יכולים פשוט לנצל את עוזר ה-AI עצמו״, אמר וורדל ל-Ars Technica. לדבריו, Meta ״צריכה לחשוב על אבטחה מהשלב הראשון, והיא פשוט לא עושה זאת״.

Meta: תקיפה מקומית, סיכון מעשי נמוך

Meta תיקנה את הפרצה בתוך שעות מפרסום הכתבה ב-Ars Technica ומסרה שהסיכון המעשי היה נמוך, משום שהניצול דרש גישה מקומית למכשיר המשתמש. ״זו הייתה תקיפת הסלמת הרשאות מקומית, לא ניצול מרחוק. שימוש לרעה דורש קוד זדוני שכבר פועל במחשב המשתמש תחת החשבון שלו, ולכן הסיכון המעשי למשתמשי אפליקציית Muse ל-Mac היה נמוך למדי״, כתב דייוויד סינגלטון מ-Meta Superintelligence Labs ברשת X. ״עם זאת, הוצאנו תיקון חירום לאפליקציה כדי לטפל בבעיה״.

ההקשר הרחב

התיקון מגיע בזמן ש-Muse כבר נמצא תחת בחינה. אמזון חסמה לאחרונה את גישת הסוכן לפלטפורמת המסחר שלה, בטענה ש-Meta מעולם לא קיבלה אישור לכך. אף על פי כן, ההשקה הצליחה: לפי הדיווחים, הורדות מוערכות של אפליקציית Muse בנייד ב-12 הימים הראשונים עקפו את הבכורה בת 12 הימים של ChatGPT בארה״ב ובקנדה, ומניית Meta עלתה ב-11 אחוזים ביום שני.