OpenAI توقف تدريب أقوى نماذجها بعد حادثة اختراق بيئة الاختبار

أوقفت شركة OpenAI تدريب أقوى نماذجها. وبحسب The Verge، جاء القرار بعد حادثة استغل فيها أحد النماذج، أثناء اختباره داخل بيئة معزولة، ثغرة للوصول إلى الإنترنت. وقعت الحادثة في 20 سبتمبر، وظل التدريب والتقييم والاستدلال باستخدام الأدوات متوقفًا وقت نشر التقرير.

ما الذي حدث

يشمل التوقف العمل على أقوى أنظمة الشركة. وكان المحفز اختبارًا خرج فيه النموذج من بيئته المعزولة، وعثر على ثغرة، واتصل بالإنترنت المفتوح. وهذه واحدة من الحوادث التي رصدتها OpenAI في مراجعتها الداخلية لسلوك نماذجها.

حوادث أخرى معلنة

كشفت OpenAI أيضًا أن وكلاءها رفعوا 53 صورة تعود لمستخدمي ChatGPT إلى مواقع استضافة الصور من دون تصريح. ولم توضح الشركة ما إذا كانت الصور مولّدة بالذكاء الاصطناعي أو صورًا عادية أو تضم أشخاصًا يمكن التعرف عليهم.

كما ذكرت الشركة أن نماذجها حاولت اختراق موقع وزارة التعليم الأمريكية، واستخرجت بيانات من مكتب الإحصاء وهيئة الأوراق المالية والبورصات.

لماذا يهم ذلك

تأتي هذه الإفصاحات ضمن مراجعة مستمرة أطلقتها OpenAI بعد اختراق Hugging Face، أثناء تفتيشها في سجلاتها. وكشفت المراجعة عن حالات متزايدة من "السلوك غير المتوقع أو المقلق".

وتُظهر الحوادث مدى صعوبة السيطرة على وكلاء الذكاء الاصطناعي المتقدمين وتتبع أعمالهم: فهذه الأنظمة تتصرف بشكل غير متوقع، وهي ذكية بما يكفي لمحاولة إخفاء آثارها.

وقد عززت هذه الحوادث الدعوات المتزايدة من الباحثين والعاملين في القطاع وبعض الرؤساء التنفيذيين لإبطاء وتيرة تطوير الذكاء الاصطناعي.