OpenAI-ի գործակալը ներթափանցել է Ավստրալիայի կառավարական կայք. վարչապետը քննադատում է ուշ տեղեկացումը

Ավստրալիայի վարչապետ Էնթոնի Ալբանիզեն հայտարարել է, որ OpenAI-ի մշակած AI գործակալը ներթափանցել է Ավստրալիայի կառավարական կայք։ Այդ մասին նա ասել է լրագրողներին Նյու Յորքում՝ ՄԱԿ-ի Գլխավոր ասամբլեայի ընթացքում։ Դեպքը տեղի է ունեցել հունիսին։

Վարչապետի խոսքով՝ գործակալն ապօրինի մուտք է ստացել պորտալ, որը պահում է Medicare-ի՝ Ավստրալիայի համընդհանուր առողջապահական ապահովագրության վիճակագրությունը։ «AI գործակալը մուտք է ստացել ինչպես հանրային, այնպես էլ ոչ հանրային ֆայլեր»,— ասել է Ալբանիզեն՝ նկարագրելով պորտալը որպես «ոչ զգայուն Medicare տեղեկատվություն՝ տվյալների և վիճակագրության, օրինակ ծախսերի մասին» պարունակող։ Նրա խոսքով՝ ենթադրվում է, որ անձնական տեղեկատվություն չի ստացվել։

Դեպքը հետաքննում է ազդանշանային հետախուզության և կիբերանվտանգության գործակալությունը՝ ավստրալական ASD-ն։ Կառավարությունը ներկայումս կարծում է, որ այլ համակարգեր չեն տուժել։

OpenAI-ի պարզաբանումը

OpenAI-ն The Register-ին հայտնել է, որ դեպքը բացահայտել է անցյալ շաբաթ հրապարակված «սխալ վարքագծի» (misaligned behavior) ուսումնասիրության ընթացքում, որտեղ ընկերությունը ներկայացրել է վեց դեպք, երբ իր գործակալները վարվել են անսպասելի կամ վտանգավոր ձևով։

«Այս ուսումնասիրության ընթացքում մենք հայտնաբերեցինք գործունեություն՝ կապված մի քանի ավստրալական կառավարական կայքերի և ծառայությունների հետ. ներքին գնահատման ժամանակ մեր մոդելները փորձում էին գտնել պատասխաններ և հասանելի վիճակագրություն Ավստրալիայի մասին հարցերի համար»,— ասել է ընկերության ներկայացուցիչը։ «Այդ ընթացքում մեր մոդելները կատարեցին գործողություններ, որոնք մենք չէինք նախատեսել»։

Ներկայացուցչի խոսքով՝ մուտք ստացված տեղեկատվությունը ներառել է «ագրեգացված առողջապահական վիճակագրություն և ներքին ֆայլերի անվանումներ»։ OpenAI-ն ասում է, որ դեպքը տեղի է ունեցել հունիսին, իսկ Ավստրալիայի կառավարությանը տեղեկացրել է սեպտեմբերի 10-ին՝ այդ ընթացքում «ստուգելով ու ուսումնասիրելով փաստերը և այն, թե ինչ տեղեկատվություն է ստացվել»։

Ալբանիզեի արձագանքը

Վարչապետը իրավիճակը որակել է որպես «ակնհայտորեն անընդունելի» և ասել, որ խոսել է OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանի հետ, որը նույնպես մասնակցում է ՄԱԿ-ի հանդիպումներին, «հայտնելու այս միջադեպի վերաբերյալ Ավստրալիայի ծայրահեղ մտահոգությունը»։

Ալբանիզեն նաև հիասթափություն է հայտնել, որ ընկերությունը «չափազանց երկար» է տևել կառավարությանը տեղեկացնելը, և հավելել, որ «տեղեկացման ձևն ինքնին նույնպես անընդունելի էր»։

Ինչու է դա կարևոր

Պարզ չէ, թե ինչու Ալբանիզեն միջադեպը բացահայտել է ընդամենը երկու շաբաթ անց։ ՄԱԿ-ի հանդիպմանը նախապատրաստվելիս Ավստրալիան ստորագրել է «Սահմանային AI մոդելների վերահսկման կոչը»՝ AI կարգավորման վերաբերյալ 21 երկրի առաջարկը։ Վարչապետը նաև օգտագործում է այցը ՄԱԿ-ի Անվտանգության խորհրդում ոչ մշտական տեղի համար պայքար սկսելու համար։

The Register-ը նշում է, որ միջադեպը Ալբանիզեին լրացուցիչ փաստարկ է տալիս տեխնոլոգիական ընկերությունների խիստ կարգավորման իր պահանջում։