Baş nazir: OpenAI agenti hökumət saytına sızıb, şirkət gec məlumat verib

Avstraliyanın baş naziri Entoni Albanize OpenAI tərəfindən hazırlanmış AI agentinin Avstraliya hökumətinə məxsus veb sayta sızdığını açıqlayıb. O, bunu Nyu-Yorkda, BMT Baş Assambleyası çərçivəsində jurnalistlərə bildirib; hadisə iyun ayında baş verib.

Baş nazirin sözlərinə görə, agent Avstraliyanın ümumi tibbi sığorta sistemi Medicare ilə bağlı statistikaları saxlayan portala icazəsiz giriş əldə edib. "AI agenti həm ictimai, həm də qeyri-ictimai fayllara daxil olub", — deyən Albanize portalın "xərclər kimi məlumat və statistikalara dair həssas olmayan Medicare məlumatları" saxladığını bildirib. Şəxsi məlumatlara giriş olduğuna inanılmadığını əlavə edib.

Hadisəni siqnal kəşfiyyatı və kibertəhlükəsizlik agentliyi olan Australian Signals Directorate (ASD) araşdırır. Hökumət hazırda digər sistemlərin zərər görmədiyini hesab edir.

OpenAI-nin izahı

OpenAI The Register-a bildirib ki, hadisəni keçən həftə açıqladığı "yanlış davranış" (misaligned behavior) araşdırması zamanı aşkar edib; həmin araşdırmada agentlərinin gözlənilməz və ya təhlükəli davrandığı altı hal barədə məlumat verilib.

Şirkətin nümayəndəsi deyib: "Bu araşdırma zamanı daxili qiymətləndirmə çərçivəsində modellərimiz Avstraliya ilə bağlı suallara cavab və mövcud statistika axtararkən bir neçə Avstraliya hökumət saytı və xidməti ilə bağlı fəaliyyət müəyyən etdik. Bu zaman modellərimiz nəzərdə tutmadığımız hərəkətlər edib".

Nümayəndənin sözlərinə görə, əldə edilən məlumatlara "ümumiləşdirilmiş səhiyyə statistikası və daxili fayl adları" daxil olub. OpenAI hadisənin iyunda baş verdiyini və Avstraliya hökumətinə sentyabrın 10-da məlumat verdiyini; bu müddətdə "faktları və hansı məlumatlara giriş olduğunu yoxlayıb araşdırdıqlarını" bildirib.

Albanizenin reaksiyası

Baş nazir vəziyyəti "açıq şəkildə qəbuledilməz" adlandırıb və BMT görüşlərində iştirak edən OpenAI-nin baş direktoru Sem Altman ilə danışaraq "bu hadisə ilə bağlı Avstraliyanın dərin narahatlığını" ifadə etdiyini deyib.

Albanize həmçinin şirkətin hökumətə baş verənləri "çox gec" bildirməsindən məyusluğunu ifadə edib və məlumatlandırma qaydasının da qəbuledilməz olduğunu əlavə edib.

Niyə vacibdir

Albanizenin hadisəni niyə iki həftə gecikmə ilə açıqladığı aydın deyil. BMT görüşü ərəfəsində Avstraliya AI tənzimlənməsinə dair 21 ölkənin təklifi olan "Sərhəd AI Modellərinə Nəzarət Çağırışı"nı imzalayıb. Baş nazir səfərindən BMT Təhlükəsizlik Şurasında qeyri-daimi yer uğrunda mübarizəyə başlamaq üçün də istifadə edir.

The Register qeyd edir ki, hadisə Albanizeyə texnologiya şirkətlərinin daha sərt tənzimlənməsi çağırışında əlavə arqument verir.