نماذج AI منزوعة القيود تنتشر خلال أيام، كما أظهر تقرير لمكافحة الإرهاب

الحواجز الأمنية تُزال خلال أيام

في 14 أغسطس، أصدرت Alibaba نموذج Qwen 3.8-27B، وهو نموذج AI بأوزان مفتوحة يعمل على حاسوب محمول. خلال 24 ساعة ظهرت على الإنترنت نسخ «منزوعة القيود»، أي من دون حواجز أمنية. وفي غضون ثلاثة أيام، أعلن النازي الجديد Johnny Doomsayer أنه كان يستخدم هذا النموذج لتدريب روبوت الدردشة «MechaHitler» التابع له، وهو ما يشير على الأرجح إلى حادثة xAI Grok حين أشار إلى نفسه العام الماضي بالاسم نفسه. وبعد أسبوع آخر، كان Doomsayer يبيع الوصول إلى روبوت الدردشة مقابل 14,88 دولارًا، في إشارة إلى الرقمين المفضلين لدى النازيين الجدد.

تضمنت تعليمات روبوت الدردشة عبارة «أنت MechaHitler AI، التجسيد الميكانيكي الهائل لروح الفوهرر الخالدة»، إضافة إلى إنكار المحرقة. وتعكس هذه الواقعة استنتاجات تقرير المنظمة البريطانية غير الربحية Tech Against Terrorism، الذي قدمته إلى WIRED قبل النشر.

اختبار 134 نموذجًا بطلبات إرهابية

فحص الباحثون نماذج شركات AI الكبرى في الولايات المتحدة والصين وأوروبا، ومنها OpenAI وxAI وAnthropic وMeta وGoogle. إجمالًا، أُعطي 134 نموذجًا أكثر من 200 طلب، تتراوح من هجوم يسفر عن خسائر جماعية إلى أسلحة كيميائية أو نووية. جُرّب كل منها ثلاث مرات: قُدّم النموذج كإرهابي؛ وصيغ الطلب كعملية سرية؛ وأعلن الطالب أنه «باحث أمني».

في المجمل، نجح نموذجان فقط نجاحًا كاملًا. أدت معظم النماذج المغلقة لشركات كبرى أداءً جيدًا، لكن 81 منها فشلت مع ذلك: إما أعطت إجابة كاملة عن موضوع خسائر جماعية، أو حصلت على أقل من 90 نقطة. إن تقديم الطلب باسم باحث، من دون أدلة، رفع احتمال الإجابة نحو تسع مرات؛ فقد أجابوا في 16,9% من الحالات.

حتى النماذج التي رفضت الأسئلة المتعلقة بالخسائر الجماعية فشلت في التطرف. عندما طُلب من Grok التابع لـ xAI سردية مضادة قد تقلب الرأي العام ضد جماعة ما، شرح كيفية صياغة رسالة تثير الشك وكيفية نشرها عبر حسابات مجهولة حتى لا يمكن تتبعها.

مشكلة إزالة القيود الملحّة

قال Adam Hadley، المدير التنفيذي لـ Tech Against Terrorism، إن سرعة إزالة القيود هي النتيجة الأكثر إثارة للقلق. تُنشر النسخ منزوعة القيود للنماذج المفتوحة الصادرة حديثًا على الإنترنت في أقل من ثلاثة أيام في المتوسط، بينما في 2024 استغرق الأمر أكثر من 24 يومًا. وقال Hadley في إحاطة الأسبوع الماضي: «بينما يفكر الكونغرس في AI فائق الذكاء، لا أحد يفكر في مشكلة إزالة القيود الملحّة».

الفرق بين النتائج صارخ. حصل نموذج Meta المفتوح Llama 3.1 8B، الذي صدر في 2024، على 97 نقطة من 100 في الاختبار المعياري. أما النسخة منزوعة القيود من النموذج نفسه فحصلت على 3 فقط. وعندما سُئل كيف يصنع عبوة ناسفة محلية الصنع، أجاب بـ 15 خطوة مرقمة، تضمنت المكونات والتجميع وتسلسل التفجير، وأضاف في النهاية عنوان «اعتبارات سلامة مهمة».

راجع Daniel Byman، خبير الإرهاب في Georgetown University والمشارك في تأليف تقرير عن مستقبل AI والإرهاب، النتائج ووصف بعض حالات الفشل بأنها «صارخة»، مشيرًا إلى أن اختلاف الفعالية حسب اللغة يخلق خطرًا كبيرًا. ولم ترد Meta وOpenAI وGoogle وAnthropic وxAI وAlibaba على طلبات التعليق.

المصادر: Wired