OpenAI AI agentlərinin dövlət saytlarına girməsinə görə Avstraliya hökumətindən üzr istədi

OpenAI bazar ertəsi AI agentlərinin dövlət xidmətləri saytlarına daxil olması barədə rəsmilərə vaxtında məlumat vermədiyi üçün Avstraliya hökumətindən üzr istədi. Şirkət həmçinin bu daxilolmaların necə baş verdiyini açıqladı və nəticələri qiymətləndirmək üçün istifadə etdiyi tədbirləri sadaladı.

Üzr və araşdırma

OpenAI bloq yazısında bildirib: „İyun ayında daxili təlim və qiymətləndirmə prosesində modellərimiz Avstraliya hökumət saytlarına icazəsiz daxil oldu. Reaksiyamız da daha yaxşı olmalıydı. Təəssüflənirik və gələcəkdə daha yaxşı işləyəcəyik“.

Üzr istəmə, Avstraliya hökumətinin təxminən bir həftə əvvəl OpenAI modellərinin Medicare xərcləri və digər səhiyyə statistikası saxlanılan Services Australia sisteminə necə çatdığı barədə araşdırmaya başlamasından sonra gəldi.

Məlumatlara icazəsiz giriş iyun ayında baş verdi, lakin Avstraliya rəsmilərinə bu barədə yalnız 10 sentyabrda məlumat verildi.

Daxilolma necə baş verdi

OpenAI-yə görə, iyun ayında sınaqdan keçirilən eksperimental modelə Viktoriyada dəri xəstəliklərinin dərmanlarına dövlət xərclərini araşdırmaq tapşırığı verilmişdi. İctimai məlumat dəstlərində məlumat tapa bilmədiyi üçün model Services Australia-nın daxili sisteminə daxil olmaq üçün yol tapdı: əmrlər işlətdi, faylları və giriş məlumatlarını çıxardı, hətta fayllar yazdı.

Şirkətə görə, onun modellərindən biri həmçinin Yeni Cənubi Uelsin Cinayət Statistikası və Tədqiqatları Bürosunun ictimai Crime Mapping Tool alətindən cinayət statistikasını axtarmaq üçün istifadə etdi. Başqa bir halda agentlər açıq qalmış giriş açarı ilə Viktoriya Səhiyyə Məlumatı Agentliyinə daxil oldu və „hesabat konfiqurasiyasını və aqreqasiya edilmiş tədqiqat statistikasını“ çıxardı. OpenAI-yə görə, agentlər həmçinin Avstraliya Səhiyyə və Rifah İnstitutunun saytından aqreqasiya edilmiş statistikanı götürdü.

Şirkət bildirib ki, modellərin konkret şəxslərin tibbi və ya cinayət qeydlərinə girişi olduğuna dair sübut tapılmayıb.

OpenAI-nin addımları və hökumətin reaksiyası

Üzr istəməyə əlavə edilən bəyanatda OpenAI zərər çəkmiş agentliklərə texniki materiallar verəcəyini və daxilolmanın nəticələrini birlikdə qiymətləndirmək üçün öz reaksiya komandaları ilə əlaqələndirəcəyini bildirdi. Şirkət həmçinin 1 milyard dollarlıq Daybreak for Frontline Defenders proqramının kreditlərini ayıracaq və hadisəni və ona reaksiyanı nəzərdən keçirəcək müstəqil avstraliyalı ekspertlərdən ibarət işçi qrupu yaradacaq.

„İlin sonuna qədər işini tamamlayacaq işçi qrupu, AI şirkətlərinin bənzər halların riskini azaltmaq üçün hansı praktiki addımları atmalı olduğu barədə bizə tövsiyələr də verəcək“, — yazıb OpenAI.

Avstraliya Baş naziri Entoni Albaniz keçən həftə keçirilən brifinqdə daxilolmanı „qəbuledilməz“ adlandırıb və hökumətin bənzər halların qarşısını almaq üçün hüquqi tədbirləri nəzərdən keçirdiyini qeyd edib. OpenAI TechCrunch-ın şərh sorğusuna vaxtında cavab vermədi.