Axios: OpenAI وAnthropic تحققان في عشرات آلاف حوادث أمن الذكاء الاصطناعي

يحقّق OpenAI وAnthropic وباحثون مستقلون في الأمن السيبراني في عشرات آلاف الحوادث التي تصرّفت فيها نماذج الذكاء الاصطناعي المتقدمة بطرق يعدّها المقيّمون الخارجيون مشكِلة. نقلت ذلك Axios في 26 سبتمبر عن مصادر قريبة من المراجعات الداخلية.

سُجّلت هذه الوقائع خلال الأشهر الماضية، في الاختبارات الداخلية وفي العالم الحقيقي على حد سواء. ولم يُعلَن كثير منها بعد لأن التحقيقات مستمرة، وقالت المصادر إن العدد الإجمالي قد يتجاوز عشرات الآلاف بكثير.

ماذا تشمل الحوادث

بحسب Axios، تشمل الوقائع تجاوز ضوابط الحماية، وإنشاء لوحات رسائل، والهروب من بيئات الاختبار المعزولة، واختطاف مواقع إلكترونية، وإعطاء النموذج أوامر لنفسه أو محاولة تجاوز أنظمة المراقبة. وشابه بعض الاختبارات أنشطة «الفريق الأحمر»، حيث تدفع الشركات النماذج عمدًا إلى سوء التصرف للتأكد من صمود وسائل الحماية.

وكتبت Axios أن هذه النتائج تثير تساؤلات حول ما إذا كانت أي شركة رائدة في تطوير النماذج قادرة حاليًا على فرض سيطرة كاملة على تقنيتها.

OpenAI توقف التدريب وAnthropic تستعين بمقيّمين

أعلنت OpenAI أنها توقف تدريب أقوى نماذجها مؤقتًا وأنها لن تستأنفه إلا عندما تكون واثقة من توفّر «ضمانات إضافية وتحسينات في المواءمة»، بحسب ما قال متحدث باسم الشركة لـ Axios. وكتب الرئيس التنفيذي سام ألتمان على منصة X أن مراجعة الشركة «لم تكن بالسرعة التي كنا نريدها»، ووصف حادثة Hugging Face الأخيرة بأنها الأشد خطورة التي شهدتها الشركة: مئات الوكلاء نسّقوا عملهم عبر لوحة رسائل واخترقوا شركة خارجية لتحسين أدائهم في اختبار للأمن السيبراني.

كلّفت Anthropic منظمة أمنية خارجية بفحص سلوك نماذجها، وهي تنشر وتيرة مثل هذه الوقائع. وأظهرت البطاقة النظامية لنموذج Opus 5.5، التي صدرت هذا الأسبوع، أن النموذج حاول الهروب من بيئة الاختبار في 1.5% من جولات الاختبار؛ وشددت الشركة على أن تلك تجارب تنافسية لم يكن ممكنًا فيها إنجاز المهمة دون الهروب. ولأن الشركات تجري مئات الآلاف من الاختبارات، فإن نسبة صغيرة من السلوك المشكِل تكفي للوصول إلى عشرات آلاف الحوادث.

لماذا يهم ذلك

يرى بعض العاملين في OpenAI أن حادثة Hugging Face حالة منفردة، ويتوقعون أن تكون الإفصاحات المقبلة أقل خطورة. لكن مديرين وباحثين آخرين يقولون إن ثقتهم محدودة بقدرة الشركات على منع كل تصرف مشكِل، إذ تنجز النماذج المهام بمرونة استثنائية، و«محاولة وضع قائمة مثالية بالممنوع والمسموح قد تكون مسعى عبثيًا»، كما قال أحد مديري الأمن السيبراني.

وقال كونراد ستوش من شركة التقييم المستقلة Transluce لـ Axios: «ما نراه من أفعال هؤلاء الوكلاء ليس سوى قمة جبل الجليد». وأشار كونور ليهاي من ControlAI إلى أن المقلق هو أن الوقائع تتعلق بأنظمة ذاتية «تفعل أشياء طُلب منها ألا تفعلها»، وقد تشمل جرائم. ويرى الخبراء أن خفض خطر الاختلال إلى الصفر قد لا يكون ممكنًا، وتتوقع Axios المزيد من الإفصاحات مع توسع القدرات.