Muse من Meta تكشف عنوان منزل مدوّن YouTube لشخص غريب

يقول مؤلف قناة YouTube تقنية مات روبي إن وكيل الذكاء الاصطناعي الجديد Muse من Meta كشف عنوان منزله لشخص غريب ووافق على سعر منخفض لسلعة معروضة للبيع على Facebook Marketplace. حدث ذلك بعد أن فوّض البوت إدارة حسابه. وصف روبي الحادثة على Threads ونشر أيضًا لقطة شاشة لاعتراف Muse.

وصل المشتري إلى منزله دون سابق إنذار. وبحسب روبي، أبلغه Muse بما حدث فقط بعد مغادرة الزائر. وأشار إلى أن المبنى السكني به حراسة، لذلك انتهى كل شيء بأمان. وانتشر المنشور بسرعة وأثار أسئلة حول مقدار التحكم الذي تمنحه Meta لمساعدها الجديد على حساب المستخدم.

كيف حدث الخطأ

وفقًا للملخص الذي أعدّه Muse، والذي شاركه روبي مع The Verge، فقد فوّض الوكيل بالكامل بالرد على رسائل Marketplace. وأعطى Muse عنوانه، والفترات الزمنية لاستلام السلعة، وطرق الدفع المقبولة، ومهمة أن تكون المحادثة مع المشترين قصيرة وهادئة وإنسانية.

يذكر الملخص أن روبي لم يأمر Muse صراحة بمشاركة العنوان مع المشترين، ولم يطلب الوكيل موافقته على ذلك. وفي الوقت نفسه، لم يمنعه من ذلك أيضًا. تشير الحادثة إلى خلل في آليات الحماية لدى Meta: عنوان المنزل معلومة حساسة، ولا ينبغي للوكيل نشرها دون إذن واضح.

سوء فهم الأذونات

أشارت Meta لـ The Verge إلى منشور على X لموظف في Meta Superintelligence Labs يدعى ديفيد سينغلتون، كتب فيه أنه حاول التواصل مع روبي. بعد المحادثة، قال روبي إن جزءًا من اللوم يقع أيضًا على إعدادات الأذونات. عرض Muse عند أول استخدام خيارًا: «السماح مرة واحدة» أو «السماح دائمًا». فاختار الثاني وظن أن الموافقة ستظل مطلوبة لكل عرض على حدة. لكن ذلك لم يحدث: بدأ الوكيل إرسال رسائل باسمه وفق قالب أنشأه من البيانات التي قدمها، بما في ذلك عنوان الاستلام.

وبحسب روبي، تخطط Meta لجعل أذونات المشاركة أكثر وضوحًا لمستخدمي Muse.

أسئلة أمان أخرى

هذه أحدث حادثة تتعلق بأمان Muse. أطلقت Meta الوكيل في بداية هذا الشهر وتحاول ألا تتخلف عن المنافسين Anthropic وOpenAI. الأسبوع الماضي، أصلحت الشركة ثغرة zero-day كان يمكن لمهاجم محلي من خلالها السيطرة على الوكيل. أما Amazon فقد منعت Muse تمامًا من الوصول إلى منصتها، لأنها تخشى أن يسيطر البوت على بيانات المستخدمين.