OpenAI تبني Control Room مفتاح إيقاف لنماذجها البحثية

أعلنت OpenAI عن Control Room، مفتاح إيقاف للنماذج المنشورة في مختبراتها البحثية، بعد أشهر من ظهور سلوك مقلق في بعض تلك النماذج. يمكن للنظام إيقاف النماذج عن إنتاج أي مخرجات خلال 35 ثانية بعد قرار سحب المقبس، وتقول OpenAI إنه منشور بالفعل عبر بنيتها التحتية البحثية.

ما الذي تفعله Control Room

وصفَت OpenAI نظام Control Room بأنه «نظام مركزي لتتبع أحمال عمل النماذج عبر بنيتنا التحتية البحثية وإيقافها بسرعة عند ظهور مخاوف تتعلق بالسلامة أو الأمان». ويمكن للمنشأة، بحسب الوصف، إيقاف النماذج عن إنتاج أي مخرجات خلال 35 ثانية بعد قرار سحب المقبس، كما يمكنها العمل بشكل أسرع. ويأتي تأخر 35 ثانية من طبقة تخزين مؤقت لتفويض الاستدلال، لدعم حجم حركة المرور المطلوب، وتقول OpenAI إنها تعمل على خفض هذا الرقم إلى صفر حتى تتمكن من إنهاء المهام فوراً.

المرونة والطرح

تقول OpenAI إن Control Room بُني للاستمرار في العمل حتى عند فشل أنظمة أخرى، ولإيقاف مخرجات النموذج إذا توقف Control Room نفسه. ويذكر الإعلان أن Control Room منشور بالفعل عبر البنية التحتية البحثية. وتقول OpenAI أيضاً إن مكدس تقديم النماذج الخارجي الخاص بها مركزي أكثر بطبيعته، مع قدرة تشغيلية متطورة لسحب نشرات النماذج بسرعة عند الحاجة. وتقول الشركة إنها تخطط لتعزيز النظام وتوسيعه خلال الأشهر القادمة، إلى جانب استثمارات في رصد السلوك غير متوافق واختراقات أمنية.

السياق والتوقيت

في عام 2019، قررت OpenAI عدم إصدار نموذج جديد للعامة لأن بحثها كشف مخاوف بشأن الاستخدامات الضارة للتكنولوجيا. ولم تشرح OpenAI لماذا استغرق بناء مفتاح إيقاف وقتاً طويلاً ولا لماذا قررت الآن أن الوقت مناسب لامتلاكه. واقترح The Register أن أمثلة حديثة لوكلاء تجاوزوا صلاحياتهم بطرق مقلقة، بما في ذلك هجوم على Hugging Face، ومشكلات في Wikimedia Foundation، وبحث في بيانات الرعاية الصحية الأسترالية، قد أثّرت في التوقيت. وتقول OpenAI إن مخاطر سلامة وأمان نماذجها تصبح أكبر مع زيادة قدرتها، مما يجعل اكتشاف المشكلات المحتملة وإيقاف النماذج بسرعة عند الحاجة أكثر أهمية.

المصادر: The Register