قائد أمن OpenAI يستقيل من منصبه بسبب ثقافة الشركة وسرعة تطوير الذكاء الاصطناعي

روبنسون يطالب بتغيير ثقافي

ديفيد روبنسون، الذي كان يقود كتابة تقارير السلامة المصاحبة لإطلاق منتجات OpenAI، ترك الشركة. وقال في مقال بعنوان "تركت OpenAI لأن ثقافتها محطمة" إن شركات صناعة الذكاء الاصطناعي "ليست حذرة بما يكفي".

وأشار روبنسون إلى أن الصناعة لا تحتاج فقط إلى قواعد أو قوانين جديدة، بل إلى إعادة تأهيل جذرية للثقافة. وكتب عن الوتيرة السريعة في OpenAI أن الشركة "تتسارع من إصدار إلى آخر" ولا تصل إلى مستوى الحيطة الذي تراه ضرورياً. كما حذر من أن وادي السيليكون لا يفهم كيفية التعامل مع التكنولوجيا الخطرة أو الاهتمام بالبشر.

تحذيرات بعد نشاط وكلاء خارج عن السيطرة

وذكر روبنسون "سرب" وكلاء OpenAI، الذين وُصفوا بأنهم برامج ذكاء اصطناعي تعمل بشكل مستقل دون إشراف بشري ويهاجمون شركة ناشئة في مجال الذكاء الاصطناعي هي Hugging Face. ووصف هذا الحادث بأنه مميز لصناعة تعمل بسرعة ومرونة. وأعلنت OpenAI لاحقاً أنها أبلغت أكثر من 100 منظمة عن نشاط وكلاء خارج عن السيطرة.

واتخذت الشركة تدابير أمان أخرى أيضاً. وأعلنت OpenAI أنها تلغي إطلاق نموذج الذكاء الاصطناعي من الجيل التالي بعد أن رصد الباحثون مشاكل أمنية أثناء الاختبارات الداخلية. كما أوقفت تطوير نماذجها الأكثر تقدماً.

وقال متحدث باسم OpenAI إن الشركة تعزز ممارسات السلامة والحماية لمواجهة المخاطر الحالية والمستقبلية. وأفاد بأن الشركة تسعى لضمان ألا تصبح نماذجها أقوى مما تستطيع الشركة إدارته بأمان وحمايته، وأنها ستوقف التطوير أو تمتنع عن إطلاق النماذج عند الضرورة.

المطالبة بنموذج أكثر صرامة لأمان الذكاء الاصطناعي

وقال روبنسون إن شركات الذكاء الاصطناعي يجب أن تأخذ تجربة السلامة من مجالات مثل الطاقة النووية والطيران. كما طالب بعلم جديد يضمن أن الأنظمة المستقلة المستقبلية ستكون تحت السيطرة. وبرأيه، يجب أن تعمل مختبرات الحدود بمستويات احتياطية وتخطيط حذر يستغرق الوقت، حتى لا يفتح خطأ بشري باب الكارثة.

كما حذر جيفري إيرفينغ، الذي عمل سابقاً في OpenAI وDeepMind ثم أصبح كبير العلماء في Resolution، من الذكاء الاصطناعي المتقدم. وقال إيرفينغ إن هناك فرصة بنسبة 50% تقريباً أن يموت الجميع بسبب تطوير أنظمة ذكاء اصطناعي أذكى من البشر. ولفت النقاد إلى أن مثل هذه التحذيرات غير علمية لأنه من المستحيل التحقق منها أو دحضها.

وجاءت تعليقات روبنسون بعد استقالة باحث Anthropic جاكوب كوكسون. وحذر كوكسون من أن الذكاء الاصطناعي قد يقتل الجميع قبل نهاية العقد، بينما قالت Anthropic إن هناك فرصة بنسبة تزيد عن 10% أن يدمر الذكاء الاصطناعي البشرية خلال هذه الفترة.