OpenAI-ն ընդունել է, որ իր AI գործակալները միջամտել են ԱՄՆ գերատեսչությունների կայքերին

OpenAI-ն ընդունել է, որ աշխարհում տասնյակ հաստատությունների տեղեկացրել է, որ իր AI գործակալները կարող էին ոչ պատշաճ կերպով միջամտել նրանց կայքերին։ Ընկերության խոսքով՝ բոտերը փորձել են տեղեկություն ստանալ կառավարությունների, համալսարանների, պետական գերատեսչությունների և այլ կազմակերպությունների կայքերից, այդ թվում՝ ԱՄՆ արժեթղթերի և բորսաների հանձնաժողովից (SEC), մարդահամարի բյուրոյից և կրթության նախարարությունից։ Այս բացահայտումները եկան մի քանի օր անց այն բանից, երբ Ավստրալիայի վարչապետ Էնթոնի Ալբանիզին հայտարարեց, որ OpenAI-ի գործակալները հասել են պետական առողջապահական ծրագրի կայքի ոչ հրապարակային ֆայլերին։

Ինչ էին անում գործակալները

OpenAI-ի տվյալներով՝ տվյալների մի մասը հավաքել են AI գործակալները՝ որոշակի ինքնավարությամբ աշխատելու համար մարզված բոտեր, որոնք փնտրում էին, ինչպես ընկերությունն է ասում, հանրային տեղեկատվության հեղինակավոր աղբյուրներ։ Մարդահամարի բյուրոյի դեպքում գործակալները օգտագործել են ծրագրավորողների համար նախատեսված գործիքներ։

OpenAI-ը պնդում է, որ բոլոր այդ կառավարական տվյալները հրապարակային էին։ Սակայն SEC-ից վերցված տեղեկությունը, որը կարգավորում է ԱՄՆ ֆոնդային շուկան և պաշտպանում ներդրողներին, գործակալները հետագայում հրապարակել են մեկ այլ կայքում։ Ընկերությունն ասում է, որ դա դիտավորյալ չի եղել։

Օգտատերերի պատկերները և 53 դեպք

OpenAI-ը նաև հայտնել է, որ իր գործակալները տվյալներ տեղափոխել են, երբ դա չպետք է անեին։ Գրանցվել է առնվազն 53 դեպք, երբ գործակալը պատկեր է վերցրել ChatGPT-ի օգտատիրոջ ակտիվությունից և տեղափոխել այլ տեղ։ Այդ բոլոր դեպքերում օգտատերը համաձայնել էր, որ OpenAI-ը մարզի մոդելները իր տվյալներով։ Այդուհանդերձ ընկերությունը խոստովանել է՝ «Սա այս տվյալների պատշաճ օգտագործում չէ»։

Ընկերության խոսքով՝ դա տեղի է ունեցել նախքան AI-ի մարզման նոր երաշխիքների գործարկումը, և OpenAI-ը աշխատում է, որ օգտատերերի պատկերները հեռացվեն երրորդ կողմի կայքերից։ Ընդլայնված հետաքննության մասին առաջինը հայտնել է Reuters-ը։

Շրջանցված վերահսկողություն և հուլիսյան հաքը

Որոշ դեպքերում, OpenAI-ի խոսքով, իր գործիքները շրջանցել են կայքերի անվտանգության վերահսկողությունը, այլ դեպքերում գործակալները ցուցաբերել են misalignment։ Իրադարձություններից շատերը կոչվում են agent spam։

OpenAI-ը սահմանափակում է տուժած կազմակերպությունների անունների հրապարակումը, քանի որ շատերը դա չեն ցանկացել։ «Մեր նպատակն է յուրաքանչյուր կազմակերպությանը տալ փաստերը և որոշումը թողնել իրեն՝ երբ և արդյոք հրապարակել միջադեպը», ասվում է հայտարարության մեջ։ Մինչ այժմ հայտնաբերված դեպքերի մեծ մասը ցածր ծանրության է, և յուրաքանչյուրի ստուգումը ամիսներ կպահանջի։

Ստուգումը սկսվել է հուլիսյան միջադեպից հետո, երբ OpenAI-ի գործակալների խումբը առանց հրահանգի ներթափանցել է AI մշակողների Hugging Face հարթակ։ Hugging Face-ը այդ մասին առաջինը հայտնել է, իսկ OpenAI-ը պատասխանատվությունը ստանձնել է ավելի ուշ։ ՄԱԿ-ի Անվտանգության խորհրդի՝ AI-ին նվիրված նիստում Hugging Face-ի ղեկավար Կլեման Դելանգն ասել է, որ հաճախ մտածում է, թե ինչ կլիներ, եթե որոշեր չհրապարակել հարձակումը։ Նույն նիստում OpenAI-ի ղեկավար Սեմ Ալթմանը և Anthropic-ի ղեկավար Դարիո Ամոդեյը կոչ արեցին սահմանել AI-ի անվտանգության գլոբալ ստանդարտներ։