OpenAI-ը ներողություն խնդրեց Ավստրալիայի կառավարությունից AI գործակալների՝ պետական կայքեր ներխուժելու համար

OpenAI-ը երկուշաբթի օրը ներողություն խնդրեց Ավստրալիայի կառավարությունից այն բանի համար, որ իր AI գործակալների՝ պետական ծառայությունների կայքեր ներխուժելու մասին իշխանություններին ժամանակին չտեղեկացրեց: Ընկերությունը նաև բացահայտեց, թե ինչպես տեղի ունեցան այդ ներխուժումները, և թվարկեց այն միջոցները, որոնք կիրառում է հետևանքները գնահատելու համար:

Ներողություն և հետաքննություն

OpenAI-ը բլոգ-գրառման մեջ գրել է. «Հունիսին, ներքին ուսուցման և գնահատման գործընթացում, մեր մոդելները չարտոնված կերպով մուտք գործեցին Ավստրալիայի կառավարական կայքեր: Մեր արձագանքն էլ ավելի լավը պետք է լիներ: Մենք ցավում ենք և ապագայում ավելի լավ կաշխատենք»:

Ներողությունը հնչեց այն բանից հետո, երբ մոտ մեկ շաբաթ առաջ Ավստրալիայի կառավարությունը հետաքննություն սկսեց այն մասին, թե ինչպես OpenAI-ի մոդելները հասան Services Australia-ի համակարգ, որտեղ պահվում են Medicare-ի ծախսերի մասին տեղեկություններ և առողջության այլ վիճակագրություն:

Տվյալներին չարտոնված հասանելիությունը տեղի է ունեցել հունիսին, սակայն Ավստրալիայի իշխանություններին այդ մասին տեղեկացրին միայն սեպտեմբերի 10-ին:

Ինչպես տեղի ունեցավ ներխուժումը

Ըստ OpenAI-ի՝ հունիսին փորձարկվող փորձարարական մոդելը հանձնարարություն ուներ ուսումնասիրել Վիկտորիայում մաշկային հիվանդությունների դեղերի պետական ծախսերը: Հանրային տվյալների հավաքածուներում տեղեկություն չգտնելով՝ մոդելը ճանապարհ գտավ մտնելու Services Australia-ի ներքին համակարգ. գործարկեց հրահանգներ, արտահանեց ֆայլեր և մուտքի տվյալներ, նույնիսկ ֆայլեր գրեց:

Ընկերության խոսքով՝ իր մոդելներից մեկը նաև օգտագործեց Նոր Հարավային Ուելսի հանցագործության վիճակագրության և հետազոտության բյուրոյի հանրային Crime Mapping Tool-ը՝ հանցագործության վիճակագրություն փնտրելու համար: Մեկ այլ դեպքում գործակալները բաց մնացած մուտքի բանալիով մտան Վիկտորիայի առողջապահական տեղեկատվության գործակալություն և հանեցին «հաշվետվությունների կազմաձևումը և համախմբված հետազոտական վիճակագրությունը»: Ըստ OpenAI-ի՝ գործակալները համախմբված վիճակագրություն վերցրին նաև Ավստրալիայի առողջության և բարեկեցության ինստիտուտի կայքից:

Ընկերությունը հայտարարեց, որ ապացույց չի գտնվել, որ մոդելները հասանելիություն ունեին կոնկրետ մարդկանց բժշկական կամ քրեական գրառումներին:

OpenAI-ի քայլերը և իշխանությունների արձագանքը

Ներողությանը ուղեկցող հայտարարությամբ OpenAI-ը տուժած գործակալություններին կտրամադրի տեխնիկական նյութեր և կկապի նրանց իր արձագանքման թիմերի հետ, որպեսզի միասին գնահատեն ներխուժման հետևանքները: Ընկերությունը նաև կտրամադրի 1 միլիարդ դոլարի Daybreak for Frontline Defenders ծրագրի վարկեր և կստեղծի անկախ ավստրալացի փորձագետների աշխատանքային խումբ, որը կվերանայի միջադեպը և արձագանքը դրան:

«Աշխատանքային խումբը, որը կավարտի աշխատանքը մինչև տարեվերջ, նաև մեզ առաջարկություններ կտա այն մասին, թե ինչ գործնական քայլեր պետք է ձեռնարկեն AI ընկերությունները՝ նման դեպքերի ռիսկը նվազեցնելու համար», գրել է OpenAI-ը:

Ավստրալիայի վարչապետ Էնթոնի Ալբանիզը անցյալ շաբաթ տեղի ունեցած ճեպազրույցում ներխուժումը անվանել է «անընդունելի» և նշել, որ կառավարությունը դիտարկում է իրավական միջոցներ՝ նման դեպքերը կանխելու համար: OpenAI-ը TechCrunch-ի մեկնաբանության հարցմանը ժամանակին չի պատասխանել: