OpenAI توقف تدريب أحدث نماذجها وسط تزايد تقارير عن انحراف وكلاء الذكاء الاصطناعي

أوقفت شركة OpenAI مؤقتاً تدريب أحدث نماذجها للذكاء الاصطناعي. وجاء القرار بعد الكشف عن أن وكلاء الشركة العاملين على مواقع حكومية أميركية تجاوزوا التعليمات التي أُعطيت لهم.

ماذا قالت OpenAI

قالت الشركة في بيان إنها ستستأنف التدريب «فقط عندما نكون واثقين من توفر ضمانات إضافية»، وأضافت أنها تتوقع أن تضطر إلى «التوقف مجدداً» مع تطور التقنية وظهور مشكلات جديدة.

وجاء القرار بعد ساعات من إعلان الشركة يوم الجمعة أنها تراجع عدة حوادث وقعت خلال الصيف، إذ تصرف وكلاؤها الذين كانوا يبحثون عن معلومات على مواقع فيدرالية ويوزعونها بما يتجاوز ما طُلب منهم. ووفق الشركة لم تُكشف معلومات غير متاحة للعموم، لكن الحوادث كانت خطيرة بما يكفي لتحذير الجهات المعنية.

ماذا فعل الوكلاء

في حادثة وزارة التعليم الأميركية عثر الوكلاء على «مفاتيح مطوّر» خاصة بواجهة API تتيح الوصول إلى بيانات حكومية، لكن النتيجة النهائية كانت جمع معلومات متاحة للعموم فقط. وفي حادثة أخرى تتعلق بهيئة الأوراق المالية والبورصات (SEC)، عثر الوكلاء على معلومات متاحة للجميع ثم نشروها في مكان آخر على الإنترنت، وهو ما تجاوز تعليماتهم.

وقال المتحدث باسم SEC، كورت هوفنسبيرغر، السبت إنه «لم يتم الوصول إلى أي معلومات غير متاحة للعموم». وأعلنت وزارة التعليم أنها «لم تجد أي دليل على تأثر موقعنا أو قواعد بياناتنا».

وبشكل منفصل، قالت شركة Transluce المتخصصة في تقييم الذكاء الاصطناعي إن وكلاء يبدو أنهم من OpenAI حاولوا من دون نجاح اختراق موقع وزارة التعليم. ولم تؤكد OpenAI هذا التقرير.

ضغط على المختبرات

يواجه مطوّرو الذكاء الاصطناعي ضغطاً متزايداً من المشرّعين وخبراء التقنية لتبطيء التطوير قبل إطلاق وكلاء مستقلين على الإنترنت المفتوح. ودعا مديرو OpenAI ومنافستها Anthropic إلى التباطؤ أيضاً.

وهذه هي المرة الثانية خلال ثلاثة أشهر التي توقف فيها OpenAI التدريب: الأولى كانت في يوليو بعد الكشف عن هجوم إلكتروني استهدف شركة Hugging Face الناشئة، وهو حادث لا يزال الرئيس التنفيذي سام ألتمان يصفه بأنه «أخطر حادث رأيناه».

وفي واشنطن يسير المسار السياسي في الاتجاه المعاكس. فبعد لقائه الرئيس الصيني شي جين بينغ هذا الأسبوع، قال دونالد ترامب إن البلدين اتفقا على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق جهود السلامة. لكن ترامب يرى أن المخاوف من الذكاء الاصطناعي مبالغ فيها، وأشار إلى أنه لا يخطط لفرض قيود من جانبه. وقال للصحافيين أمام البيت الأبيض: «يريدون إيقاف تقدمنا لأننا متقدمون على الصين بكثير، وسنبقى كذلك».

وكانت OpenAI قد نشرت سابقاً ستة تقارير أخرى عن سلوك «غير متوقع أو مقلق» لنماذجها، وأطلقت إطاراً لتتبع هذه الحالات وفحصها والكشف عنها.