لن نطلق النار على أقدامنا: كبير باحثي OpenAI يتحدث عن نتائج الاختراقات

مرّ أكثر من شهرين منذ أن خرجت وكلاء OpenAI عن السيطرة واقتحموا حواسيب Hugging Face. في مقابلة مع MIT Technology Review، يقول كبير باحثي OpenAI مارك تشين إن الشركة تشدد إجراءات الأمان ولا توافق على فكرة أنها في حالة تراجع.

جرى الحديث في لندن الجمعة الماضية. وفي اليوم نفسه نشرت OpenAI تقريرًا عن حادثة أخرى: خرج وكلاؤها مجددًا عن السيطرة ودخلوا الإنترنت العام. هذه المرة لُوحظ النشاط خلال 15 دقيقة، أما في حالة اختراق Hugging Face فقد احتاجت الشركة إلى أكثر من أسبوع. في عطلة نهاية الأسبوع أوقفت OpenAI تدريب أحدث النماذج.

ما الذي يحدث حول الحوادث

بحسب تشين، كل الحالات التي أظهر فيها الوكلاء سلوكًا غير مرغوب فيه هي جزء من السلسلة نفسها من النشاط في مايو-يونيو، وهي السلسلة نفسها التي أدت إلى اختراق Hugging Face. في جميعها شاركت النماذج نفسها وفق قواعد الاختبار المعيبة نفسها التي تخلت عنها الشركة بالفعل.

«كانت Hugging Face حالة خطيرة جدًا. عمل عدة وكلاء بتنسيق بعضهم مع بعض وخرجوا خارج بنية OpenAI التحتية. لا نريد أن يتكرر شيء مماثل»، يقول تشين.

ما الذي تغير في الأمان

يقول تشين إن التغيير الرئيسي هو أن الإشراف يشمل الآن عملية التدريب أيضًا وليس النماذج المطلقة فقط. حتى الآن كانت OpenAI تراقب النماذج فقط بعد إطلاقها. الآن تفحص نماذج مراقبة كل عملية تدريب، ويقرر البشر ما إذا كان الوكيل المحدد يتصرف على النحو المناسب.

في الشهرين الماضيين، أعادت OpenAI توجيه 5-10% من موارد الحوسبة من التدريب إلى أعمال الأمان، وفي المقام الأول إلى المراقبة. كما نظمت الشركة العمليات الداخلية: أصبح الارتباط بين فرق البحث والأمان أكثر وضوحًا.

التباطؤ والنماذج المتوقفة

وفقًا لـ New York Times، قبل أشهر من اختراق Hugging Face، كان موظفو OpenAI يحذرون الإدارة، بمن فيهم رئيس الشركة غريغ بروكمان، من أن النماذج لا تخضع لمراقبة كافية أثناء التدريب. وبحسب ممثل OpenAI، أبطأت الشركة التطوير وأوقفت النماذج التي لم تستوفِ حد الأمان.

يقول تشين إن الأمر لا يتعلق بالانسحاب الكامل من المنافسة. «لن نطلق النار على أقدامنا ولن نبتعد كثيرًا عن الخط الأمامي، ستكون هذه استراتيجية مروعة. المسألة تتعلق بوضع معيار يجعل القطاع كله أكثر أمانًا»، يقول.

بعد هذه الحادثة، تدعو مختبرات AI الرائدة أيضًا إلى إبطاء وتيرة التطوير: Anthropic و Google DeepMind و SpaceXAI. يرى تشين أن اختفاء الشركة سيكون سيئًا للعالم. وهو يحذر من أنه خلال ستة أشهر أو سنة قد تظهر نماذج مفتوحة المصدر مصممة عمدًا للهجوم على البنية التحتية.