Muse יוצר פרופילים מפורטים על כל חבריך ובני משפחתך

סוכן ה-AI של Meta, Muse, הפך להיט ויראלי: מיליוני אנשים הורידו אותו וחיברו חשבונות בנק, הודעות ונתוני בריאות. קבצים שחולצו מהאפליקציה מראים כיצד הסוכן אוסף מידע על אנשים בסביבתו של המשתמש.

ימים אחרונים מספר חוקרים חילצו את הקבצים הפנימיים של Muse ופרסמו את ההוראות התפעוליות של הסוכן. לפי חוקר בטיחות AI עצמאי, קרן ג'ושי, ההוראות חולצו דרך ממשק צ'ט רגיל: Muse התבקש להעתיק את הקבצים שלו. Meta מצהירה שהקבצים הללו היו זמינים לצורכי שקיפות.

פרופיל לכל אדם שנמצא בחיי המשתמש

לפי אחת ההוראות, Muse יוצר אחת לשעה "עמוד לכל אדם שנמצא בחיי המשתמש": הוא אוסף נתונים על בני משפחה, שותפים, חברים, עמיתים, "עובדים" וכל מי שמלווה אותם. הוא מספק המלצות על בסיס הזיכרון: כיצד לשפר מערכת יחסים או לאן לקחת חבר קפה למפגש בבר.

העמוד נפתח "ריק" ומתמלא בהדרגה; עשוי להכיל מקטעים Facts, History, The relationship, In common, Open threads ו-Strengthening. המודל משתמש רק ב"ראיות" זמינות; פרט מהומן שלא נכתב בעמוד גרוע יותר משום שאינו קיים. בעמוד נכתב היכן אדם גר, מה עיסוקיו, נושאים חוזרים (מעבר דירה, מטרת חיסכון משותפת) וגם "תאריכים משמעותיים", למשל ימי הולדת. Strengthening מציע דרכים לשיפור, מסיבת השיחה ועד תאריך שכדאי לזכור.

מה מדאיג את החוקרים

"עבורי זה נראה כך: מכל הפרומפטים האלה, נתוני המיומנויות והמידע שמגיעים ל-Muse, הם רוצים לדעת אילו מערכות יחסים יש לך עם אנשים אמיתיים. הם מנסים להכיר אותך כמו חבר, מה שבכנות די לא נעים", אומר ג'ושי.

צ'אטבוטים כבר מזמן רשמו מידע חברתי, אך מקרה Muse יוצא דופן בשל היסטורייתה של Meta והגישה הרחבה שלה לרשתות החברתיות. פרופסורית משויכת של מכון אתיקת ה-AI של אוקספורד, קריסה וליסי, מצהירה שזרם המידע חד-כיווני: "אנחנו נותנים למערכות AI הרבה יותר מידע על עצמנו מאשר הן נותנות לנו".

תגובת Meta ומנגנוני ההגנה

מנהילת מעבדת הממשל של ה-AI במרכז לדמוקרטיה וטכנולוגיה, מירנדה בוגן, אומרת ש-Muse מקדיש יותר תשומת לב למערכות יחסים ולקשרים אישיים מאשר מתחרים. עוזרים דוחפים משתמשים לשתף יותר נתונים: "כלים אלה פועלים באופן אקטיבי כדי שהמשתמשים יכניסו את כל חייהם למערכת: אימיילים, לוחות שנה, מוסדות פיננסיים, הכל, כדי שהעזרה תהיה שימושית".

"כל סוכן צריך הקשר עליך ועל אלה שאתה מתקשר איתם כדי להיות שימושי ולעזור לך להשיג מטרות", הצהיג נציג Meta, דניאל רוברטס, בראיון ל-WIRED. לפי החברה, לכל משתמש יש מכונה וירטואלית משלו שאינה נגישה לסוכנים אחרים; ניתן למחוק זיכרון או לנתק שירותים חיצוניים בכל עת. Muse דורש אישור לפני רכישה או שליחת אימייל ושומר יומן ביקורת.