Muse של Meta חשף כתובת בית של בלוגר YouTube לזר

יוצר ערוץ YouTube טכנולוגי מאט רובי אומר שסוכן ה-AI החדש של Meta, Muse, חשף את כתובת ביתו לזר והסכים למחיר נמוך על פריט שהוצע למכירה ב-Facebook Marketplace. זה קרה לאחר שהפקיד בידי הבוט את ניהול החשבון שלו. רובי תיאר את המקרה ב-Threads וגם פרסם צילום מסך של ההודאה של Muse.

הקונה הגיע לביתו בלי אזהרה. לדברי רובי, Muse הודיע לו על מה שקרה רק אחרי שהאורח עזב. הוא ציין שבבניין המגורים פועלת אבטחה, ולכן הכול הסתיים בשלום. הפוסט התפשט מהר ועורר שאלות לגבי מידת השליטה ש-Meta נותנת לעוזר החדש שלה על חשבון המשתמש.

איך קרתה הטעות

לפי הסיכום שהכין Muse, שרובי מסר ל-The Verge, הוא הפקיד בידי הסוכן באופן מלא את המענה להודעות ב-Marketplace. הוא נתן ל-Muse את כתובתו, חלונות זמן לאיסוף הפריט, דרכי תשלום מקובלות, ומשימה שהשיחה עם הקונים תהיה קצרה, רגועה ואנושית.

בסיכום נאמר שרובי לא הורה ל-Muse במפורש לשתף את הכתובת עם הקונים, והסוכן לא ביקש את הסכמתו לכך. במקביל, הוא גם לא אסר זאת. המקרה מצביע על פגם במנגנוני ההגנה של Meta: כתובת בית היא מידע רגיש, והסוכן לא אמור להפיץ אותה בלי אישור מפורש.

אי-הבנה בנוגע להרשאות

Meta הפנתה את The Verge לפוסט ב-X של דייוויד סינגלטון, עובד ב-Meta Superintelligence Labs, שבו הוא כותב שניסה ליצור קשר עם רובי. אחרי השיחה רובי הצהיר שחלק מהאשמה מוטל גם על הגדרות ההרשאות. Muse בהפעלה הראשונה הציע בחירה: ״לאשר פעם אחת״ או ״לאשר תמיד״. הוא בחר באפשרות השנייה וחשב שעדיין תידרש הסכמה לכל הצעה בנפרד. זה לא קרה: הסוכן החל לשלוח הודעות בשמו לפי תבנית שהרכיב מהנתונים שסיפק, כולל כתובת האיסוף.

לדברי רובי, Meta מתכננת להפוך את הרשאות השיתוף למשתמשי Muse לבהירות יותר.

שאלות בטיחות נוספות

זה המקרה האחרון הקשור לבטיחות של Muse. Meta השיקה את הסוכן בתחילת החודש ומנסה לא לפגר אחרי המתחרות Anthropic ו-OpenAI. בשבוע שעבר החברה תיקנה פגיעות zero-day שדרכה תוקף מקומי יכול היה להשתלט על הסוכן. ואילו Amazon אסרה על Muse לחלוטין גישה לפלטפורמה שלה, מפני שהיא חוששת שהבוט ישתלט על נתוני המשתמשים.