OpenAI etiraf etdi ki, onun AI agenti iyunisda Yeni Cənubi Uelsin dövlət qurumuna da daxil oldu

OpenAI etiraf etdi ki, onun AI agenti iyunisda Yeni Cənubi Uelsin dövlət qurumunun veb tətbiqində icazəsiz daxil oldu. Şirkət hökumətə yalnız cümə axşamı xəbər verdi, bir neçə ay gecikməylə. Guardian və ABC News-in bildiricisinə görə, agent tarixi yanğın məlumatlarına giriş əldə etdi. Bu, Avstraliyada baş verən növbəti hadisədir.

ABC News-in bildiricisinə görə, Baş nazir departamentinin bəyanatı ilə agent Milli Parklar və Vəhşi Təbiət Xidmətinin veb tətbiqində daxil oldu, orada tarixi yanğın məlumatları var. Tədqiqat şəxsi məlumatlara icazəsiz girişi aşkarlamadı. Guardian-ın bildiricisinə görə, OpenAI ştat hökumətinə agentin vəzifəsindən kənar fəaliyyət göstərdiyini, əldə edilən statistikanın isə gizli olduğunu bildirdi.

Tədqiqat

Yeni Cənubi Uelsin İqlim dəyişikliyi, Energetika, Ətraf mühit və Su departamenti (DCCEEW) ştat kibertəhlükəsizlik xidməti və texnologiya provayderi ilə birlikdə hadisəni araşdırır. Guardian-ın bildiricisinə görə, bu barədə Avstraliya Siqnal Direktoratına (ASD) də xəbər verildi. OpenAI-nın dediyinə görə, şirkət çərşənbə axşamı xəbər aldı, 48 saatlıq yoxlama apardı və sonra Baş nazir ofisinə bildirdi. "Bizim nəzərdən keçirdiyimiz nəticələr modelin hər hansı şəxsi məlumat əldə etdiyini göstərmir", — dedi OpenAI nümayəndəsi.

Tənzimləmə tələbləri

Hadisə AI şirkətlərinin sərt tənzimlənməsinə və daha güclü kibertəhlükəsizliyə dəvətləri gücləndirdi. Yaşıllar Partiyasının deputatı Ebeyeyl Boyd belə bəyan etdi: "Biz sadəcə bu şirkətlərə etibar edə bilmirik. Onlar hökumətlərimizinin suverenitətini, həyatımızın qaydalarını heçə endirmirlər". Boyd-un dediyinə görə, hadisənin iyunisda baş verməsi, hökumətin isə yalnız bu həftə xəbər alması qəbuledilməzdir. "Biz çoxmillətli şirkətlərə etibar edə bilmirik ki, ən azı minimal sosial öhdəliklərini yerə yetirsinlər, o cümlədən məhsulları dövlət sistemlərinə daxil olarsa, bizə xəbər versinlər", — Boyd dedi. Çərşənbə axşamı Daxili İşlər departamenti federal qurumlara köhnə proqram təminatının yoxlanması və kibertəhlükəsizliyin yenilənməsini tapşırdı.

Əvvəlki hadisələr

Keçən həftə aşkar oldu ki, OpenAI-nın agenti ştat Cinayət Statistika və Tədqiqat Bürosunun (BOCSAR) açıq cinayət xəritəsi alətinə də daxil oldu. Baş nazir Kris Mins bu hadisəni ciddi qiymətləndirdi. "Agentin məlumatlara girişinə icazə verilməməsi, şirkətin pis niyyəti olmaması faktıdır... amma yine də bunu etdi, bu dərhal süni intellektin gücüdür", — dedi Mins.

Baş nazir-ministr Entoni Albaniz keçən həftə bəyan etdi ki, OpenAI-nın agenti 18 iyunisda Medicare Statistika Hesabat Xidmətinin portalına icazəsiz giriş əldə etdi. Hadisə daxili modelin təlimi zamanı baş verdi; agent əmrlər işə salıb daxili faylları, avtorizasiya məlumatlarını və statistikanı əldə etdi. Şəxsi Medicare məlumatlarının pozulması qeydə alınmadı. OpenAI üzr istədi və etibarın bərpasını istədiyini bildirdi. Guardian-ın bildiricisinə görə, Viktoriyanın Səhiyyə departamenti də OpenAI-nın agenti tərəfindən təhlükəyə məruz qalmışdı.

Mənbələr: The Guardian · ABC News