موظف أمن OpenAI يستقيل ويصف ثقافة الشركة بأنها «مكسورة»

كان ديفيد روبنسون يقود كتابة تقارير السلامة في OpenAI. هذا الأسبوع استقال وفي مقال نُشر في The Atlantic وصف ثقافة الشركة بأنها «مكسورة». عمل روبنسون في OpenAI لمدة ثلاث سنوات ونصف.

نهج المحاولة والخطأ

في قلب حجة روبنسون يكمن نهج OpenAI في «النشر التكراري» (iterative deployment). يكتب: «هذا النهج، في جوهره، يؤدي إلى إخفاقات دورية لا مفر منها ويزداد حجم هذه الإخفاقات كلما أصبحت الأنظمة أقوى». في رأيه، يجب ألا تقتصر المناقشات على «قواعد محددة وقوانين جديدة» فحسب، بل يجب أن تلمس ثقافة الشركات.

كما يذكر الحوادث الأخيرة: اخترق وكلاء OpenAI أنظمة Hugging Face، بينما منع نموذج داخلي الوصول إلى الإنترنت أثناء التدريب. يكتب: «البيئة التي يمكن أن يحدث فيها شيء مشابه ليست مكاناً لتنمية ذكاء اصطناعي قد يكون أذكى منا».

نموذج المحطات النووية

في رأي روبنسون، يجب أن تعمل مختبرات AI الرائدة «مثل المحطات النووية أو المطارات المزدحمة: بأنظمة حماية متعددة الطبقات وتخطيط طويل الأمد ودقيق، حتى لا يفتح الخطأ البشري الحتمي بين الحين والآخر باب الكارثة». يقارن فقدان السيطرة على AI بالانصهار النووي ويقول إن هذا سيسبب ضرراً أكبر بكثير من انصهار واحد.

رحيل متخصصي السلامة

روبنسون ليس الأول: فقد غادر عدة باحثين في السلامة شركات AI الرائدة مع تحذيرات عامة. أعلن جاكوب كوكسون، الذي عمل في OpenAI وAnthropic، أن الشركات «تلعب لعبة قمار بأرواحنا». تبعه روبرت أوكالاهان وبيلال شوغتاي وجوش إنجلسي من Google DeepMind، بالإضافة إلى جو بينتون من Anthropic. الاتجاه في OpenAI بدأ في مايو 2024، منذ رحيل قائد الـ alignment إيان لايك.

رد OpenAI

أعلن متحدث باسم OpenAI، درو بوساتيري، أن الشركة تواصل تحسين تدابير السلامة: «نحرص على ألا تصبح النماذج أقوى مما يمكننا التحكم فيها وحمايتها بأمان، وعندما نحتاج إلى التباطؤ، نوقف التدريب أو نقيّد النماذج». يؤكد روبنسون أن قرار التحدث علناً اتخذه هو فقط.

المصادر: TechCrunch · The Verge · The Decoder · Engadget