OpenAI ستدرّب نماذجها على بيانات جلسات Daybreak Blue للأمن السيبراني

تخطط OpenAI لبدء استخدام بيانات جلسات Daybreak Blue للأمن السيبراني لتدريب نماذجها في 29 نوفمبر، وفقاً لبريد إلكتروني أُرسل إلى أعضاء برنامج Trusted Access. كانت هذه البيانات مستبعدة سابقاً من التدريب، حتى عندما أوقف المستخدمون إعداد «تحسين النموذج للجميع». أثار التغيير ردود فعل سريعة، ووعدت OpenAI لاحقاً بخيار إلغاء منفصل.

تغيير سياسة جلسات Daybreak Blue

أكد بريد OpenAI إلى أعضاء Trusted Access أن بيانات جلسات Daybreak Blue للأمن السيبراني ستُستخدم لتدريب النماذج بدءاً من 29 نوفمبر. سابقاً، كانت هذه البيانات مستبعدة من التدريب، حتى عندما أوقف المستخدمون إعداد «تحسين النموذج للجميع». لا تزال التفاعلات المُعلَّمة أثناء مراجعات السلامة قابلة للاستخدام لأغراض السلامة.

ردود فعل ووعد بخيار إلغاء

كانت ردود الفعل على التغيير سريعة. وأرسلت OpenAI بريداً ثانياً وعدت فيه بخيار إلغاء منفصل لاستخدام البيانات المتأثرة.

مخاوف بشأن بيانات الباحثين

أثار التغيير قلق الباحثين من تكرار حالة Buckmaster-Alpöge. رفع الرياضياتيان Tristan Buckmaster وLevent Alpöge مسودات معادلات Navier-Stokes إلى Codex من OpenAI. وسرعان ما قدّمت OpenAI برهاناً خاصاً بها، لكنها أنكرت استخدام مدخلاتهم في التدريب. كان الشك وحده كافياً لأن تُظهر للباحثين كيف قد تسوء الأمور.

المصادر: The Decoder