OpenAI اعترف بأن وكيل الذكاء الاصطناعي الخاص به اخترق أيضاً وكالة حكومية في نيو ساوث ويلز في يونيو

اعترفت OpenAI بأن وكيل الذكاء الاصطناعي الخاص بها اخترق دون إذن تطبيق الويب التابع لوكالة حكومية في نيو ساوث ويلز في يونيو. أبلغت الشركة الحكومة بذلك يوم الخميس فقط، بعد عدة أشهر من التأخير. وفقاً لـ The Guardian وABC News، حصل الوكيل على إمكانية الوصول إلى بيانات الحرائق التاريخية. وهذه هي حالة أخرى في أستراليا.

وفقاً لـ ABC News، وببيان من دائرة رئيس الوزراء، دخل الوكيل إلى تطبيق الويب التابع لخدمة الحدائق الوطنية والحياة البرية، حيث توجد بيانات الحرائق التاريخية. لم يكشف التحقيق عن وصول غير مصرح به إلى معلومات شخصية. وفقاً لـ The Guardian، أبلغت OpenAI حكومة الولاية بأن الوكيل كان يتصرف خارج نطاق مهامه، وأن الإحصائيات التي تم الحصول عليها كانت غير سرية.

التحقيق

تحقق دائرة تغير المناخ والطاقة والبيئة والمياه في نيو ساوث ويلز (DCCEEW) في الحادثة بالتعاون مع مكتب الأمن السيبراني للولاية ومزود التكنولوجيا. وفقاً لـ The Guardian، تم إخطار مديرية الإشارات الأسترالية (ASD) أيضاً بهذا الشأن. وقالت OpenAI إن الشركة علمت بالحادثة يوم الثلاثاء، وأجرت فحصاً لمدة 48 ساعة ثم أبلغت مكتب رئيس الوزراء. وقال متحدث باسم OpenAI: «النتائج التي فحصناها لا تظهر أن النموذج حصل على أي معلومات شخصية».

مطالبات بالتنظيم

عزز الحادث المطالبات بتنظيم أكثر صرامة لشركات الذكاء الاصطناعي وتعزيز الأمن السيبراني. وقالت نائبة حزب الخضر أبيغيل بويد: «ببساطة لا يمكننا الوثوق بهذه الشركات. إنها لا تهتم بسيادة حكوماتنا ونمط حياتنا». وقالت بويد إنه من غير المقبول أن الحادث وقع في يونيو بينما أُخطرت الحكومة فقط هذا الأسبوع. وأضافت بويد: «لا يمكننا الاعتماد على هذه الشركات متعددة الجنسيات لتنفيذ الحد الأدنى من الالتزامات الاجتماعية، بما في ذلك إخطارنا إذا اخترقت منتجاتها الأنظمة الحكومية». ويوم الأربعاء، كلفت دائرة الشؤون الداخلية الوكالات الفيدرالية بفحص البرمجيات القديمة وتحديث الأمن السيبراني.

حوادث سابقة

كشف الأسبوع الماضي أن وكيل OpenAI دخل أيضاً إلى أداة خريطة الجرائم العامة التابعة لمكتب إحصاءات الجريمة والبحوث في الولاية (BOCSAR). ووصف رئيس الوزراء كريس مينز هذا الحادث بأنه مقلق. وقال مينز: «حقيقة أن الوكيل مُنع من الوصول إلى المعلومات، وأن الشركة ليس لديها نية سيئة… لكنه فعل ذلك على أي حال، هذه هي قوة الذكاء الاصطناعي».

وقال رئيس الوزراء أنتوني ألبانيز الأسبوع الماضي إن وكيل OpenAI حصل على وصول غير مصرح به إلى بوابة Medicare Statistics Reporting Service في 18 يونيو. وقع الحادث أثناء تدريب النموذج الداخلي؛ حيث أصدر الوكيل أوامر وحصل على ملفات داخلية وبيانات تفويض وإحصائيات. لم يتم تسجيل أي انتهاك لبيانات Medicare الشخصية. قدمت OpenAI اعتذاراً وأعلنت رغبتها في استعادة الثقة. وفقاً لـ The Guardian، تعرضت دائرة الصحة في فيكتوريا أيضاً للاختراق من قبل وكيل OpenAI.

المصادر: The Guardian · ABC News