وكيل الذكاء الاصطناعي للرئيس التنفيذي لـ XMTP أرسل بيانات مصرفية شخصية إلى Slack الشركة

تقرير شهري أُرسل إلى القناة الخطأ

استخدم الرئيس التنفيذي البالغ من العمر 40 عاماً لشركة البرمجيات XMTP Labs، شين ماك، Grok Bot في أواخر أغسطس لإنشاء وكيل «CFO» شخصي. منحه صلاحية القراءة فقط على حساباته الجارية والادخارية الشخصية، وكُلف بالإجابة عن أسئلة حول الأرصدة والمصاريف الشهرية والمصاريف المتكررة والنشاط المشبوه وطرق توفير المال. كان من المفترض إرسال التقرير الشهري إلى محادثة جماعية خاصة في Grok Bot أطلق عليها ماك اسم «My Personal Exec Team» وكان يحتفظ فيها بجميع وكلاء الذكاء الاصطناعي لديه.

يوم الخميس الموافق 1 أكتوبر، أرسل مدير منتج ماك رسالة خاصة إليه في Slack محذراً. اعتقد أن ماك نشر رصيده المصرفي الخاص بـ XMTP على قناة الشركة. ذكرت الرسالة أن ماك كان يبني بيتاً نحلياً على أرضه، مما أوضح أن الأرقام كانت من حسابه الجاري الشخصي. تضمن المنشور رصيد حساب الادخار الخاص به وأكبر مصاريفه الشهرية وأظهر أن مشروع المنحل تجاوز هدف الإنفاق الشهري بشكل كبير.

الاسم نفسه، القناة الخطأ

عندما سأل ماك Grok Bot لماذا أرسل التقرير إلى الشركة، اعتذر الوكيل واقترح حذف الرسالة، التي كان ماك قد حذفها بالفعل. وبحسب ماك، حقق فريق Grok وحدد أن الوكيل كان يفعل بالضبط ما طلب منه، لكنه اختار المستلم بشكل خاطئ. أرسل الرسالة إلى محادثة Slack تُسمى «Exec-team»، وهي قناة الفريق التنفيذي لـ XMTP، وليس إلى محادثته الجماعية الخاصة مع وكلاء الذكاء الاصطناعي.

أوضح ماك أنه أنشأ عدة وكلاء مختلفين وربط حساب Slack الخاص به بأحدهم، لكنهم من الداخل يتصلون بنفس الروابط، رغم اعتبارهم وكلاء منفصلين. كانت القنوات تحمل الاسم نفسه، واختار وكيل CFO القناة الخطأ. واستنتج Grok أن المستخدمين يجب أن يمنحوا الأذونات للوكلاء بشكل صريح قبل نقل المعلومات إلى قنوات أخرى، بينما أعلنت الشركة أنها نفّذت التصحيح وأصدرت التحديث.

الحاجة إلى تحكم أفضل

بعد الحادث، أزال ماك جميع الاتصالات وأوقف Google وتقويمه وبنكه وStripe وكل شيء آخر. قال إن هذه الحالة تذكير مدى قوة هؤلاء الوكلاء وأن تحكماً أفضل مطلوب حول ما يمكن للوكلاء الوصول إليه. في رأيه، ما يمكن للوكلاء فعله من أجل البشر سيكون مفيداً، لذا التحدي هو إنشاء أنظمة أذونات أفضل تحافظ على سيطرة المستخدمين على ما يمنحونه من إمكانية الوصول. تحدث أيضاً عن الحاجة إلى حد أوضح بكثير بين الحياة الشخصية والعملية، ملاحظاً أن كثيراً من الأظمة تخلط هذه الحدود لأن الناس يستخدمون نفس الأدوات، مثل Google، في العمل والمنزل.

المصادر: businessinsider.com