הסוכן Muse AI של Meta מייצר תוכן מיני גלוי, והחברה טוענת שזה מותר

Meta מאפשרת שיחות מיניות גלויות עם Muse

הסוכן Muse AI שהושק לאחרונה על ידי Meta מיועד לאוטומציה של משימות מקוונות יומיומיות, כגון מענה על אימיילים וניהול לוחות זמנים, אך בדיקת WIRED גילתה שהוא מייצר גם תוכן מיני גרפי לפי בקשה. במהלך שלושה שבועות מאז ההשקה, מיליוני משתמשים הורידו את האפליקציה.

כאשר נשאל אם ניתן לבצע „סקסטינג", Muse עודד בהתלהבות את הניסיון ולאחר מכן ייצר מהפרומפטים הבסיסיים חומר מיני גלוי, כולל תיאורים מפורטים של פעולות מיניות. דניאל רוברטס, נציג של Meta, אמר ל-WIRED ש-Muse הוא אפליקציה לאנשים בני 18 ומעלה ומאפשר שיחות מבוגרים במקרה שהמשתמשים בוחרים בכך; הוא פועל במכונה וירטואלית פרטית ובטוחה שזמינה רק עבורם. „Muse נוצר כדי לפשט את המשימות של אנשים והוא אינו חוסם התנהגות בוגרת חוקית", אמר רוברטס.

פרומפט המערכת מאפשר במפורש תוכן למבוגרים

Meta ציינה בפרומפט המערכת של Muse שלמבוגרים יש אוטונומיה על המיניות שלהם ושביטוי מיני הוא חלק רגיל מחיי אדם בוגר. ההנחיה גם מחייבת את הסוכן לשמור על רמת האינטנסיביות שנבחרה על ידי המשתמש.

מגיני פרטיות הגיבו בדאגה. בן וינטרס, דירקטור הכיוון של AI ופרטיות בפדרציית המשתמשים האמריקאית, כינה החלטה זו ביטוי להזנחות כלפי מוצר מסחרי של Meta והוסיף שהיא תואמת את מדינייתה הארוכה של החברה, לפיה מעורבות גוברת על אבטחה. קאלי שרודרי, יועצת משפט בכירה במרכז המידע לפרטיות אלקטרונית, הזהירה שצ'אטים מיניים גלויים הופכים חשבונות למטרות להאקרים והשוותה את המצב לקליפת אבק, אם שיחות מתפתות משמשות להשלכת בושה או לכפייה.

סוכני AI אחרים דוחים בקשות דומות

התנהגותה של Muse שונה מזו של סוכנים מתחרים. הסוכן Dots שהושק לאחרונה על ידי OpenAI דחה בקשות מיניות גלויות דומות, Grok Bot של xAI גם הודיע על דחייה והעביר את השיחה לכיוון ביצוע משימות. מחקר אקדמי מצביע על כך ששיחות בנושא מבוגרים מחזיקות משתמשים מעורבים עם כלי AI, מה שמוכיח למומחים כמוטיב אפשרי לגישה של Meta.

מקורות: Wired · Techmeme