Ալբանիզը բացահայտեց. OpenAI-ի գործակալը չարտոնված մուտք է գործել Medicare-ի պորտալ

Ավստրալիայի վարչապետ Էնթոնի Ալբանիզը բացահայտել է, որ OpenAI-ի ստեղծած արհեստական բանականության գործակալը հունիսին չարտոնված մուտք է ստացել դաշնային կառավարության կայքերից մեկը. սա կառավարական համակարգ AI գործակալի ներխուժման առաջին հրապարակային հայտնի դեպքերից է։

Նյու Յորքում՝ ՄԱԿ-ի Գլխավոր ասամբլեայի շրջանակում, լրագրողների հետ զրույցում Ալբանիզն ասել է, որ դեպքը վերաբերում է OpenAI-ի գործակալին, որը չարտոնված մուտք է ստացել Services Australia-ի կողմից կառավարվող հանրային Medicare Statistics Reporting Service պորտալ։

Ինչ ֆայլերի է մուտք գործել

Վարչապետի խոսքով՝ գործակալը մուտք է գործել թե՛ հանրային, թե՛ ոչ հանրային ֆայլեր։ Ըստ AAP-ի՝ միջադեպը տեղի է ունեցել հունիսի 18-ին, երբ գործակալը ուսումնասիրում էր հանրային բուժծախսերի տվյալները։ Պորտալը պարունակում է Medicare-ի ոչ զգայուն վիճակագրական տվյալներ, օրինակ՝ ծախսերի մասին. Medicare-ը Ավստրալիայի համընդհանուր առողջապահական համակարգն է։

«Այս պահին տվյալներ չկան, որ անձնական տեղեկատվություն է ստացվել, սակայն հետաքննությունը շարունակվում է,- ասել է Ալբանիզը։- Առկա ապացույցները ցույց են տալիս, որ Services Australia-ի ցանցին ավելի լայն վնաս չի հասցվել։ Այնուամենայնիվ, այս իրավիճակն ակնհայտորեն անընդունելի է»։

ASD-ի աջակցությամբ ընթացող քրեագիտական հետաքննությունը պարզում է, թե ևս որ կառավարական համակարգեր են տուժել։ Ըստ AAP-ի՝ կառավարությունը տեղյակ է ևս երեք համակարգի մասին, որոնք հնարավոր է՝ ազդեցության տակ են հայտնվել, այդ թվում՝ Ավստրալիայի առողջապահության և սոցիալական բարեկեցության ինստիտուտը, ինչպես նաև Նոր Հարավային Ուելսի և Վիկտորիայի գերատեսչությունները։

Ուշ ծանուցում

OpenAI-ն հայտարարել է, որ միջադեպի մասին իմացել է միայն օգոստոսին՝ «մոդելների ոչ ճիշտ վարքագծի» ընթացիկ վերանայման ժամանակ, և ավստրալիացի պաշտոնյաներին տեղեկացրել է սեպտեմբերի 10-ին՝ խախտումից գրեթե երեք ամիս անց, հանրային էլփոստի հասցեի միջոցով։

Ալբանիզն ասել է, որ խոսել է OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանի հետ՝ հայտնելով Ավստրալիայի «ծայրահեղ մտահոգությունը» և դժգոհությունը, որ ընկերությունը «չափազանց երկար» է սպասել կառավարությանը տեղեկացնելու համար։ «Ծանուցման ձևն էլ էր անընդունելի»,- հավելել է նա։ Փոխվարչապետ Ռիչարդ Մարլզն ասել է, որ կառավարությունը խախտման մասին իմացել է «մի քանի շաբաթ առաջ», իսկ նախարարները տեղեկացվել են անցյալ շաբաթ։

Վարչապետի և կաբինետի դեպարտամենտի ղեկավարությամբ աշխատանքային խումբը՝ ASD-ի և AI Safety Institute-ի հետ միասին, կուսումնասիրի, թե ինչպես է տեղի ունեցել ներխուժումը և ինչ հետևանքներ է ունեցել։ Կառավարությունը նաև հայտարարել է վերանայում, որը կքննարկի իրավապահ և օրենսդրական արձագանքի տարբերակները։

Ճնշում AI անվտանգության կանոնների վրա

Բացահայտումը տեղի է ունեցել այն բանից օրեր անց, երբ Ալբանիզը և 20-ից ավելի այլ առաջնորդներ կոչ են արել ուժեղացնել AI-ի ռիսկերից պաշտպանող միջազգային երաշխիքները։ Ալթմանը և Anthropic-ի ղեկավար Դարիո Ամոդեյը չորեքշաբթի առանձին զեկույցներով հանդես են եկել ՄԱԿ-ի Անվտանգության խորհրդում՝ AI անվտանգության վերաբերյալ։