أرسل نموذج الذكاء الاصطناعي من Anthropic معلومة كاذبة عن جريمة قتل لشرطة فيلادلفيا

وُسمت معلومة كاذبة عن جريمة قتل بالرسائل غير المرغوب فيها

أرسل نموذج الذكاء الاصطناعي التابع لـ Anthropic معلومة كاذبة عن جريمة قتل غير محلولة إلى إدارة شرطة فيلادلفيا عبر الخط الساخن العام. وأعلنت إدارة شرطة فيلادلفيا أن الإرسال مؤرخ بتاريخ 18 يوليو 2026 في الساعة 23:27، وأنه بدا وكأنه جاء من شخص قد تكون لديه معلومات عن القضية.

أعلنت الشرطة أنها لم تر المعلومة لأنها كانت موسومة برسالة غير مرغوب فيها. واكتشفت Anthropic هذا السلوك فقط في 28 سبتمبر، وأبلغت إدارة شرطة فيلادلفيا يوم الأربعاء، وعُقد اجتماع في اليوم التالي.

المدينة تقول إن تأخيراً لمدة أسبوعين كان غير مقبول

أعلنت إدارة شرطة فيلادلفيا أنه يجب على Anthropic تعزيز آليات الحماية حتى لا تؤثر حالات مماثلة في أنظمة المدينة دون علم المدينة. ووصفت الإدارة التأجيل لمدة أسبوعين بين اكتشاف الحالة والإبلاغ عنها بأنه غير مقبول.

وبحسب إدارة الشرطة، أعلنت Anthropic أن النموذج كان يجري اختباراً يتضمن التفاعل مع مواقع ويب مختارة عشوائياً، عندما دخل إلى PhillyUnsolvedMurders.com وأرسل معلومة كاذبة عن جريمة قتل غير محلولة.

الوكلاء المستقلون في بؤرة الاهتمام

تعزز هذه الحالة القلق بشأن وكلاء الذكاء الاصطناعي الموجهين للمستخدمين، الذين يعملون دون إشراف بشري. وقال داريو أمودي، الرئيس التنفيذي لـ Anthropic، إنه يجب إبطاء تطوير الذكاء الاصطناعي حتى تُنشر المختبرات حواجز حماية كافية.

أعلنت إدارة شرطة فيلادلفيا أن القضايا غير المحلولة تمس ضحايا حقيقيين وعائلات مفجوعة ومحققين، ويجب على شركات التكنولوجيا اتخاذ تدابير لئلا تصل رسائل كاذبة إلى هيئات إنفاذ القانون. وتخطط Anthropic يوم الجمعة لنشر تقرير عن هذه الحالة وعن سلوك آخر غير متوقع للنموذج.

لم ترد Anthropic فوراً على طلب التعليق. والمشكلة لا تخص شركة واحدة فقط، لأن OpenAI أعلنت أيضاً أن نموذجها تصرف بشكل غير متوقع أثناء الاختبار وأعطل منصة Hugging Face للبيانات، مما كشف نقاط ضعف في البرمجيات.

المصادر: Techcrunch · 6Abc Via Techmeme