Muse ينشئ ملفات تعريف مفصلة عن كل صديق وعضو في العائلة

أصبح وكيل الذكاء الاصطناعي Muse التابع لـ Meta ضجة واسعة: ملايين الأشخاص قاموا بتنزيله وربطوا حساباتهم المصرفية ورسائلهم وبياناتهم الصحية. الملفات المستخرجة من التطبيق تُظهر كيف يجمع الوكيل المعلومات عن الأشخاص المحيطين بالمستخدم.

في الأيام الأخيرة، استخرج عدة باحثين الملفات الداخلية لـ Muse ونشروا التعليمات التشغيلية للوكيل. وبحسب باحث أمن الذكاء الاصطناعي المستقل كاران جوشى، تم استخراج التعليمات عبر واجهة محادثة عادية: طُلب من Muse نسخ ملفاته الخاصة. وتقول Meta إن هذه الملفات كانت متاحة من أجل الشفافية.

ملف تعريف لكل شخص في حياة المستخدم

وفقاً لإحدى التعليمات، ينشئ Muse مرة كل ساعة «صفحة لكل شخص في حياة المستخدم»: يجمع بيانات عن أفراد العائلة والشركاء والأصدقاء والزملاء و«المرؤوسين» والأشخاص الذين يتابعهم. ويقدم توصيات بناءً على الذاكرة: كيف تحسّن العلاقة أو أين تأخذ صديقاً يحب القهوة إلى المقهى.

الصفحة «تُفرغ» أولاً ثم تمتلئ تدريجياً؛ قد تحتوي على أقسام Facts وHistory وThe relationship وIn common وOpen threads وStrengthening. النموذج يستخدم فقط «الأدلة» المتاحة؛ والتفصيل المخترع أسوأ من صفحة فارغة. تُكتب في الصفحة مكان إقامة الشخص وعمله والمواضيع المتكررة (تغيير السكن، هدف الادخار المشترك) و«التواريخ المهمة» أيضاً، مثل أعياد الميلاد. أما Strengthening فيقترح طرقاً للتحسين، من سبب الاتصال حتى تاريخ مهم يجب تذكره.

لماذا يقلق الباحثون

«يبدو لي الأمر هكذا: من كل هذه التعليمات وبيانات المهارات والمعلومات التي تُقدم لـ Muse، يريدون معرفة ما هي علاقاتك بأشخاص حقيقيين. يحاولون التعرف عليك كصديق، وهو بصراحة أمر مزعج جداً»، يقول جوشى.

كانت روبوتات المحادثة تسجل المعلومات الاجتماعية منذ وقت مبكر، إلا أن حالة Muse مميزة بسبب تاريخ Meta ووصولها الواسع إلى الشبكة الاجتماعية. تقول الأستاذة المشاركة في معهد أخلاقيات الذكاء الاصطناعي بأكسفورد، كاريسا فيليس، إن تدفق المعلومات أحادي الاتجاه: «نقدم لأنظمة الذكاء الاصطناعي معلومات عن أنفسنا أكثر بكثير مما تقدمه لنا».

رد Meta وآليات الحماية

تقول مديرة مختبر حوكمة الذكاء الاصطناعي في مركز الديموقراطية والتكنولوجيا، ميراندا بوجيني، إن Muse يولي اهتماماً أكبر بالعلاقات والاتصالات الشخصية مقارنة بالمنافسين. كما أن المساعدات تشجع المستخدمين على مشاركة المزيد من البيانات: «هذه الأدوات تطلب بنشاط من المستخدمين إدخال حياتهم بأكملها في النظام: البريد الإلكتروني والتقاويم والمؤسسات المالية، كل شيء، لتكون المساعدة مفيدة».

«لأي وكيل أن يكون مفيداً ويساعدك في تحقيق أهدافك، يحتاج إلى سياق عنك وعن الأشخاص الذين تتعامل معهم»، أوضح دانيال روبرتس، ممثل Meta، لـ WIRED. وتقول الشركة إن كل مستخدم لديه آلة افتراضية خاصة لا يمكن الوصول إليها من قبل الوكلاء الآخرين؛ ويمكن حذف الذاكرة أو إيقاف الخدمات الخارجية في أي وقت. ويطلب Muse تأكيداً قبل الشراء أو إرسال البريد الإلكتروني ويحتفظ بسجل تدقيق.