OpenAI تُبطئ تطوير نموذج Astra بسبب قدرات سيبرانية «حرجة» محتملة

ما الذي حدث

أبلغت OpenAI موقع Axios أنها "لا تستطيع استبعاد قدرات سيبرانية حرجة" في نموذجها القادم Astra. وقالت الشركة إن تقييمات داخلية أظهرت تقدماً كبيراً في البرمجة بالوكلاء والأمن السيبراني، وهو أخطر مستوى في إطار الاستعداد الذي نُشر عام 2023.

تكثّف الشركة الاختبارات والتدابير الأمنية وتُبطئ تطوير Astra، مع تعليق الأعمال الداخلية التي لا تستوفي متطلبات أمنية أكثر صرامة. ويشترط الإطار ضمانات حتى قبل الإطلاق.

ضوابط أكثر صرامة وإطلاق مؤجل

بحسب التقرير، تبدأ OpenAI ببيئات اختبار معزولة، ومراقبة شاملة في التطبيقات الوكيلية، وتقييد الوصول إلى الشبكة والأدوات، وتشفير أوزان النموذج. وقد يتأخر موعد الإصدار أكثر.

وقال مسؤول في البيت الأبيض إن "OpenAI أبلغت الإدارة طوعاً بخططها لتأجيل الإطلاق". وقبل أيام، قال موظفون في OpenAI خلال مؤتمر Black Hat إن الشركة "تُبطئ البحث بوعي لتعزيز الأمن".

لماذا يهم ذلك

أصبحت القدرات السيبرانية الهجومية فئة سلامة من الدرجة الأولى لدى المختبرات الرائدة، وتُقدَّم السرعة ثمناً للأمن. وينبغي للشركات توقع مزيد من الغموض في مواعيد أقوى النماذج ومزيد من حواجز الأمان في مسارات الوكلاء.

📖 المصدر