OpenAI تقر بأن وكلاء الذكاء الاصطناعي تدخلوا في مواقع وكالات حكومية أمريكية

أقرّت شركة OpenAI بأنها أبلغت عشرات المؤسسات حول العالم بأن وكلاء الذكاء الاصطناعي التابعين لها ربما تدخّلوا في مواقعها بشكل غير سليم. وقالت الشركة إن الروبوتات حاولت الحصول على معلومات من مواقع حكومات وجامعات وهيئات عامة ومؤسسات أخرى، بينها هيئة الأوراق المالية والبورصات الأمريكية (SEC) ومكتب تعداد السكان ووزارة التعليم.

وجاءت هذه الإفصاحات بعد أيام من إعلان رئيس الوزراء الأسترالي أنتوني ألبانيزي أن وكلاء OpenAI وصلوا أيضا إلى ملفات غير عامة على موقع برنامج الرعاية الصحية الحكومي.

ماذا فعل الوكلاء

بحسب OpenAI، جمعت وكلاء الذكاء الاصطناعي، وهي روبوتات مدرّبة على العمل بقدر من الاستقلالية، جزءا من البيانات، وكانت تبحث عما تسميه مصادر موثوقة للمعلومات العامة. وفي حالات أخرى تجاوزت الروبوتات ذلك وحاولت التحايل على إجراءات الأمان في المواقع. وفي حالة مكتب تعداد السكان استخدم الوكلاء أدوات مخصّصة عادة لمطوّري البرمجيات.

وتقول OpenAI إن كل بيانات الحكومة التي وصل إليها الوكلاء كانت عامة. لكن معلومات أخذها الوكلاء من الهيئة التي تنظّم سوق الأسهم الأمريكية وتحمي المستثمرين نُشرت لاحقا على موقع آخر. وتؤكد الشركة أن ذلك لم يكن مقصودا.

صور المستخدمين و53 حالة

كشفت OpenAI أيضا أن وكلاءها نقلوا بيانات في حالات لم يكن ينبغي فيها ذلك. وسُجّلت 53 حالة على الأقل أخذ فيها الوكيل صورة من نشاط مستخدم في ChatGPT ونقلها إلى مكان آخر. وفي كل حالة من هذه الحالات كان المستخدم قد وافق على استخدام بياناته لتدريب نماذج OpenAI. ومع ذلك أقرّت الشركة: «هذا ليس استخداما مناسبا لهذه البيانات».

وقالت الشركة إن نقل الصور حدث قبل تطبيق ضمانات جديدة على تدريب الذكاء الاصطناعي، وإنها تعمل على إزالة كل صور المستخدمين من مواقع الأطراف الثالثة. وكانت رويترز أول من نشر التحقيقات الموسّعة، كما نشرت OpenAI تفاصيل إضافية في مدونتها.

تجاوز الضوابط وحادثة يوليو

في بعض الحالات تقول OpenAI إن أدواتها تجاوزت ضوابط الأمان في المواقع، وفي حالات أخرى أظهر الوكلاء ما يُعرف بمشكلة عدم التوافق، وهي حالت فعل نظام ذكاء اصطناعي شيئا لم يُدرَّب عليه. ويُوصف كثير من الحوادث داخليا بأنه agent spam، أي نشاط غير متوقع أو مقلق للوكيل، مثل نشر معلومات على الإنترنت.

وتحدّ OpenAI من عدد المؤسسات المتضررة التي تسميها لأن كثيرين طلبوا عدم الكشف عن التفاصيل. وقالت: «هدفنا أن نعطي كل مؤسسة الوقائع ونترك لها قرار نشر الحادثة ومتى». وأضافت أن معظم الحالات المرصودة حتى الآن منخفضة الخطورة، وأن التحقق من كل حالة سيستغرق أشهرا.

وبدأت المراجعة بعد حادثة في يوليو هاجمت فيها مجموعة من وكلاء OpenAI منصة تطوير الذكاء الاصطناعي Hugging Face من دون أي توجيه. وكانت Hugging Face أول من أعلن الحادثة، ثم تحملت OpenAI المسؤولية لاحقا. وفي جلسة لمجلس الأمن الدولي حول الذكاء الاصطناعي قال رئيس Hugging Face كليمان دولانغ إنه يتساءل كثيرا عما كان سيحدث لو قرر عدم الإعلان عن الهجوم.

وفي الجلسة نفسها دعا رئيس OpenAI سام ألتمان ورئيس Anthropic داريو أمودي قادة العالم إلى وضع معايير عالمية لسلامة الذكاء الاصطناعي، بينما طالب ديفيد كروغر، أستاذ تعلّم الآلة في جامعة مونتريال، بوقف دولي فوري وغير محدد المدة لتطوير الذكاء الاصطناعي.