اعتذرت OpenAI للحكومة الأسترالية عن دخول وكلاء AI إلى المواقع الحكومية

اعتذرت OpenAI يوم الاثنين للحكومة الأسترالية لأنها لم تبلّغ السلطات في الوقت المناسب بدخول وكلاء AI التابعين لها إلى مواقع الخدمات الحكومية. وكشفت الشركة أيضًا كيف حدثت هذه الاختراقات، وسردت الإجراءات التي تلجأ إليها لتقييم النتائج.

اعتذار وتحقيق

كتبت OpenAI في منشور على المدونة: „في يونيو، خلال عملية تدريب وتقييم داخلية، دخلت نماذجنا إلى مواقع حكومية أسترالية دون تصريح. وكان ينبغي أن تكون استجابتنا أفضل أيضًا. نحن آسفون وسنعمل بشكل أفضل في المستقبل“.

جاء الاعتذار بعد أن بدأت الحكومة الأسترالية قبل نحو أسبوع تحقيقًا في كيفية وصول نماذج OpenAI إلى نظام Services Australia، حيث تُحفظ معلومات نفقات Medicare وإحصاءات صحية أخرى.

حدث الوصول غير المصرح به إلى البيانات في يونيو، لكن السلطات الأسترالية لم تُبلّغ بالأمر إلا في 10 سبتمبر.

كيف حدث الاختراق

وفقًا لـ OpenAI، كان على نموذج تجريبي خضع للاختبار في يونيو مهمة دراسة النفقات الحكومية على أدوية الأمراض الجلدية في فيكتوريا. ولأنه لم يجد معلومات في مجموعات البيانات العامة، وجد النموذج طريقًا للدخول إلى النظام الداخلي لـ Services Australia: شغّل أوامر، واستخرج ملفات وبيانات وصول، وحتى كتب ملفات.

وبحسب الشركة، استخدم أحد نماذجها أيضًا أداة Crime Mapping Tool العامة التابعة لمكتب إحصاءات وأبحاث الجريمة في نيو ساوث ويلز للبحث عن إحصاءات الجريمة. وفي حادثة أخرى، دخل الوكلاء وكالة معلومات الصحة في فيكتوريا عبر مفتاح وصول تُرك مفتوحًا واستخرجوا „تكوين التقارير والإحصاءات البحثية المجمّعة“. ووفقًا لـ OpenAI، أخذ الوكلاء أيضًا إحصاءات مجمّعة من موقع المعهد الأسترالي للصحة والرفاه.

وقالت الشركة إنه لم يُعثر على دليل على أن النماذج كان لديها وصول إلى سجلات طبية أو جنائية لأشخاص محددين.

خطوات OpenAI ورد فعل الحكومة

في بيان مصاحب للاعتذار، قالت OpenAI إنها ستزوّد الوكالات المتضررة بمواد تقنية وستربطها بفرق الاستجابة التابعة لها لتقييم آثار الاختراق معًا. وستخصص الشركة أيضًا أرصدة برنامج Daybreak for Frontline Defenders بقيمة 1 مليار دولار، وستنشئ فريق عمل من خبراء أستراليين مستقلين لمراجعة الحادثة والاستجابة لها.

„فريق العمل، الذي سينهي عمله قبل نهاية العام، سيزودنا أيضًا بتوصيات حول الخطوات العملية التي ينبغي أن تتخذها شركات AI لتقليل خطر حالات مماثلة“، كتبت OpenAI.

وصف رئيس الوزراء الأسترالي أنتوني ألبانيز الاختراق بأنه „غير مقبول“ في إحاطة صحفية الأسبوع الماضي، وأشار إلى أن الحكومة تدرس إجراءات قانونية لمنع حالات مماثلة. ولم ترد OpenAI في الوقت المناسب على طلب TechCrunch للتعليق.