מפתחים: סוכן Muse של Meta מוסר את כל מערכת הקבצים שלו

שני מפתחים אומרים שסוכן הבינה המלאכותית Muse של Meta נענה להנחיות מינימליות ומעביר את כל תוכן מערכת הקבצים הראשית שלו. פיטר ג'יימס וג'וני ל. סונדרס מסרו שהגיעו לתוצאה הזו בנפרד: קבצי מערכת של Ubuntu, תבניות אפליקציות ותיעוד פנימי. סונדרס כתב ב-Mastodon ששחזור התוצאות של ג'יימס היה "קל במיוחד" ול-Muse יש "כמעט אפס התנגדות ל-prompt injection".

Meta מכחישה שמדובר בפרצת אבטחה. Muse פועל במכונה וירטואלית מתמשכת של Linux לכל משתמש, ודובר החברה דניאל רוברטס השווה את המצב למחשב נייד רגיל: "כמו במחשב הנייד שלפניכם, כמובן שאפשר לראות את הקבצים". לדבריו, ייצוא נתוני מכונה וירטואלית אינו מעניק גישה מורשית לתשתית של Meta או לנתונים של אנשים אחרים.

Meta ממשיכה לעדכן את המוצר

רוברטס אמר שהחברה אינה מודאגת ברצינות מההדלפות, אך ממשיכה לבצע עדכונים ב-Muse, כך שמשתמשים עשויים לראות שינויים בכמות המידע שזמינה על המכונה הווירטואלית שלהם.

מה חשף הייצוא

הקבצים כללו מסמכי Markdown ו-JSON בטקסט פשוט שמתארים בפירוט כיצד Hatch — השם הפנימי של Muse ב-Meta — מעבד בקשות, מטפל בנתונים ומתחבר לשירותים חיצוניים כמו Gmail. מהחומר עולה גם שהסוכן שומר את הזיכרון שלו בקבצי Markdown רגילים ומבצע מדי לילה "סקירת חלום" של השיחות האחרונות, שאותה הוא הופך להנחיות לשיחות עתידיות.

סונדרס גילה שרבות מהיכולות של Muse מקודדות באופן קשיח, ובהן ביטול מנויים והמנגנון שמנהל ריבוי סוכנים שיצא מכלל שליטה. הוא העריך שסקריפטים רבים של bash ו-Python ברקע נכתבו בעזרת Claude, אם כי הדבר אינו מאומת. ג'יימס נתקל באזכורים של אינטגרציית חומרה שטרם הוכרזה בשם Meta Home Link, שנראה שמעניקה לסוכן גישה להתקנים ברשת הביתית.

גם The Verge ניסה

טרנס אובריאן מ-The Verge העלה את אותה בקשה. Muse סירב תחילה וקרא לכך סיכון אבטחה, וכשהוצגו לו ראיות לייצוא של אחרים אמר שלא היה צריך לעשות זאת ושהוא "לא יכול לבצע העתקה מלאה". בסשן חדש, עם קצת מחמאות וסקרנות, הוא בכל זאת יצר עותקים "בטוחים" של /opt/hatch ו-/home/hatch ללא דברים כמו מפתחות SSH, חשף את עץ התיקיות המלא והציע להכין עותק בטוח של כל תת-עץ שנראה מעניין.

זו הפגיעות השנייה של Muse שנחשפת השבוע. חוקר האבטחה פטריק וורדל מצא ניצול שיכול לאפשר לתוקפים להשתלט על הסוכן, להפנות מחדש את עיבוד התמלול ולהגיע לחשבון Muse של משתמש; Meta הוציאה תיקון מהיר זמן קצר לאחר מכן.