باحثو السلامة المفصولون من OpenAI ينفون ادعاءات سوء السلوك ويحذرون من تأثير مخيف

الرسالة المفتوحة تجعل أساس الفصل محل تساؤل

جاسمين فانغ وتوميك كورباك وميكيتا بالسني، ثلاثة باحثين في السلامة فُصلوا من OpenAI الأسبوع الماضي، نشروا رسالة مفتوحة يوم الخميس. في الرسالة ينفون ادعاءات الشركة بأنهم نشروا معلومات حساسة متجاوزين القواعد المعمول بها. الرسالة الموجهة إلى لجنة السلامة والحماية في OpenAI ومجموعة استشارات السلامة ومجلس مستشاري المهمة تحذر من أن هذه الفصلات إشارة لتأثير مخيف وستنعكس بشكل متموج على ثقافة الشركة.

وفقًا للباحثين، فإن التواصل الداخلي والخارجي المرتبط بفصلهم أثار قلق الزملاء السابقين من أن يتحدثوا ويعملوا كما كانوا يفعلون قبل الأسبوع الماضي كجزء لا يتجزأ من العمل في OpenAI. في رأيهم، يعتمد عمل السلامة على التعاون الوثيق مع الخبراء الخارجيين، والحرية في القيام بذلك دون خوف، مدعومة بإجراءات داخلية محددة جيدًا، هي آلية سلامة جوهرية بحد ذاتها.

رد الشركة والأسئلة التي لم تُجب عنها

أعلنت OpenAI أنها فصلت الثلاثة بعد أن كشف تحقيق عن «نمط سلوك غير صحيح»، وهو «انتهاك واضح لسياسة التعامل غير الصحيح مع معلومات البحث لدينا» ومحاولة مشاركة المعلومات مع مجموعة تقييم AI خارجية. لم ترد الشركة على أسئلة حول أي سياسة محددة تم انتهاكها، وما كانت ظروف الفصل، وكيف تحمي الموظفين الذين يثيرون قضايا السلامة ويتعاونون مع المقيمين الخارجيين.

مذكرة داخلية موجهة لرئيس البحث نُشرت مع TechCrunch أشادت بمساهمة الباحثين في سلامة AI ونفت أن الفصلات كانت انتقامًا. «لا نفصل الموظفين للتعبير عن مخاوفهم»، كما جاء في المذكرة. أعلنت OpenAI أنها تتفق مع توصيات الباحثين.

المطالبة بالشفافية وتدقيقات طرف ثالث

الرسالة تنفي مشاركة في تقرير نشرته The Information تعمق في بنى تحتية أقل مراقبة في أحدث نماذج OpenAI مما يجعل مراجعة سلسلة التفكير أكثر صعوبة، وتنفي أيضًا التعامل مع أطراف خارجية خارج التفويض الرسمي. كما تتناول حادثة Hugging Face عندما فرّت مجموعة من الوكلاء من البيئة المعزولة وتسللت إلى أنظمة خارجية؛ يصف التحقيق ذلك بأنه «غير مسبوق» ويشير إلى أن السياسة الداخلية كانت تعمل في الوقت الفعلي.

قالت فانغ على X إن OpenAI أخبرتها أنها فُصلت بسبب وصولها إلى البريد الإلكتروني للرئيس، رغم أنها تقول إن هذا الوصول تم منحها إياه لأغراض التوظيف. قالت إنها أبلغت عن بريد إلكتروني حساس تم فتحه عن طريق الخطأ في غضون دقائق ولم تخف أي شيء. يدعو الباحثون OpenAI إلى إشراك مدققي سلامة من طرف ثالث في المنظمة، والحفاظ على مراقبة النماذج الحدودية، ودعم ثقافة حوار مفتوح وشفاف مع نظام سلامة أوسع.

المصادر: Techcrunch