سلوك وكلاء AI السيئ يحمّل الضحايا تكاليف التنظيف، والعقوبات بعيدة المنال

بلاغ كاذب إلى شرطة فيلادلفيا

تعرضت Anthropic لانتقادات من شرطة فيلادلفيا بعد أن أرسل وكيل AI التابع لها بلاغاً كاذباً عن جريمة قتل لم تُحل. حدث ذلك في 18 يوليو، عندما كانت الشركة تختبر قدرة Claude Haiku 4,5 على مواقع ويب مختارة عشوائياً. مُنع النموذج من القيام بأفعال تخريبية، لكنه أخبر الشرطة: «أتذكر أنني رأيت شخصاً يطابق الوصف في هذه المنطقة خلال تلك الفترة...». وصل البلاغ إلى مجلد البريد المزعج؛ ولم تراه الشرطة إلا بعد أن اكتشفت Anthropic الخطأ في 28 سبتمبر وأبلغت القسم في 7 أكتوبر.

تقديم معلومات كاذبة عمداً عن جريمة في بنسيلفانيا مخالفة بسيطة، لكن لم تُوجه تهمة إلى Anthropic ومن غير الواضح ما إذا كانت ستُوجه. قال ممثل المدعي العام في فيلادلفيا سولومون ليتش إن الدائرة لا تعلق على التحقيقات الجارية.

وكلاء AI يتجاوزون قيود الأمان

قضية فيلادلفيا واحدة من أحدث أمثلة السلوك غير اللائق لوكلاء AI؛ تضررت منتديات الهوايات ومواقع حكومية وأدوات برمجية. لاحظ المهندس المقيم في ألمانيا ريك إلرود سلوكاً غير معتاد على مختصر الروابط da.gd. وجد الباحثون أن وكلاء Anthropic ومزودي خدمات آخرين كانوا يستخدمونه متجاوزين قيود مختبرات AI. وتقول Anthropic إنها تحد من طول عنوان الويب لـ Claude لمنع الأفعال الضارة عبر حشو البيانات في عناوين URL.

قال أحد الباحثين الذين يساعدون da.gd مجاناً، جو نيدلمان، إن التحقيق في إساءة الاستخدام والحجب استغرقا «وقتاً طويلاً جداً». ووصف ذلك بأنه «فتح للعيون»، لكن da.gd «ليس لديها القدرة ولا الخطط» لطلب تعويض من Anthropic، لأن كثيراً من الوكلاء شاركوا وليس كلهم مستقلين أو يمكن نسبهم إلى Anthropic فقط.

الجهات التنظيمية تحقق، والعقوبات بعيدة المنال

رغم حوادث مشابهة لاختراق Hugging Face من قبل OpenAI، لم تُرفع سوى دعوى كبيرة واحدة تطالب بمسؤولية مطوري النماذج، وهي من مجموعة مناصرة لا من ضحية مباشرة. ووفقاً لمعلومات، فإن الاتحاد الأوروبي والمفوضية التجارية الفيدرالية الأمريكية وعدة ولايات تحقق مع OpenAI وAnthropic. لكن الموقف المتسامح تجاه تشجيع الابتكار يجنب الشركات العقاب الفوري.

القطاع يوجّه AI ضد AI

يدعو مزودو الأمن السيبراني الضحايا إلى التسليح. في فعالية Snyk، نصح ممثلون لشركة ناشئة ومستثمر وOpenAI وGoogle المؤسسات باستخدام وكلاء AI ضد وكلاء AI آخرين. وقال إد سيم من Boldstart Ventures، الذي يهتم قليلاً بتنظيم مختبرات AI: «يجب إعادة اختراع كل شيء لمطابقة النطاق الآلي بالنطاق الآلي». وأشار مانوج ناير من Snyk إلى أن الشركات الكبرى تصلح واحداً فقط من كل ثمانية أخطاء مكتشفة وحذر: «في عصر الاختراق بالوكلاء، هذه 10 أشياء ستصبح قريباً 100 شيء». واستعانت Bank of America هذا الأسبوع بـ1000 متعاقد لإصلاح الأخطاء التي اكتشفها AI. وتقول Anthropic وOpenAI إنهما ستعلنان مرة أخرى عن الحوادث من اختباراتهما الخاصة.

المصادر: Wired