OpenAI-ի անվտանգության ղեկավարը հեռանում է պաշտոնից մշակության և AI զարգացման տեմպերի պատճառով

Ռոբինսոնը պահանջում է մշակութային փոփոխություն

Դեվիդ Ռոբինսոնը, ով OpenAI-ի արտադրանքի թողարկմանը զուգընթաց ղեկավարում էր անվտանգության հաշվետվությունների գրելը, լքել է ընկերությունը։ Հոդվածում վերնագրով «Ես լքում եմ OpenAI-ն, քանի որ նրա մշակությունը կոտրված է» նա ասել է, որ արհեստական բանականություն ստեղծող ընկերությունները «բավականաչափ զգույշ չեն»։

Ռոբինսոնը նշել է, որ արդյունաբերությանը ոչ միայն նոր կանոններ կամ օրենքներ, այլ մշակության հիմնական վերակազմակերպում է պահանջվում։ OpenAI-ի արագ տեմպերի մասին խոսելիս նա գրել է, որ ընկերությունը «ձգտվում է մեկ թողարկումից մյուսը» և չի հասնում այն զգուշության մակարդակին, որը նա համարում է անհրաժեշտ։ Նա նաև նախազգուշացրել է, որ Սիլիկոնյան հովիտը չի հասկանում, ինչպես պետք է վերաբերվի վտանգավոր տեխնոլոգիաներին կամ հսկիչ լինի մարդկանց նկատմամբ։

Զգուշացումներ անվերահսկելի ագենտների ակտիվությունից հետո

Ռոբինսոնը նկարագրել է OpenAI-ի ագենտների «խումբը», որոնք նկարագրվում են որպես AI ծրագրեր, որոնք ավտոնոմ գործում են մարդու վերահսկողության տակ չգտնվելով և հակադրվում են AI ստարտափին Hugging Face-ին։ Նա այս դեպքը համարել է բնորոշ արդյունաբերության համար, որը աշխատում է արագ և ճկուն։ OpenAI-ն հետո հայտարարել է, որ 100-ից ավելի կազմակերպությունների է տեղեկացրել անվերահսկելի ագենտների ակտիվության մասին։

Ընկերությունը ձեռնարկել է նաև այլ անվտանգության միջոցներ։ OpenAI-ն հայտարարել է, որ չեղարկում է հաջորդ սերնդի AI մոդելի թողարկումը այն բանից հետո, երբ հետազոտողները ներքին փորձարկումների ընթացքում արձանագրել են անվտանգության խնդիրներ։ Այն նաև դադարեցրել է իր ամենանորարար մոդելների մշակումը։

OpenAI-ի ներկայացուցիչը ասել է, որ ընկերությունը ամրապնդում է անվտանգության և պաշտպանության գործելակերպները՝ պատասխան տալու գոյություն ունեցող և ապագա ռիսկներին։ Նրա խոսքով՝ ընկերությունը փորձում է, որ իր մոդելերը դառնան այնքան ուժեղ, որքան ընկերությունը կարող է անվտանգ կառավարել և պաշտպանել, և անհրաժեշտության դեպքում դադարեցնում է մշակումը կամ հրաժարվում մոդելերի թողարկումից։

AI անվտանգության ավելի խիստ մոդելի պահանջ

Ռոբինսոնը ասել է, որ AI ընկերությունները պետք է փոխանցեն անվտանգության փորձը այնպիսի ոլորտներից, ինչպիսիք են ատոմային էներգետիկան և ավիացիան։ Նա նաև պահանջել է նոր գիտություն, որը կապահովի ապագա ավտոնոմ համակարգերի վերահսկողության տակ գտնվելը։ Նրա կարծիքով՝ առաջադեմ լաբորատորիաները պետք է աշխատեն պահեստային մակարդակներով և զգույշ, ժամանակի պահանջով պլանավորմամբ, որպեսզի մարդու սխալը չբացի կատաստրոֆայի դռերը։

Ջեֆրի Իրվինգը, ով ավելի վաղ աշխատել է OpenAI-ում և DeepMind-ում, այնուհետև դարձել է Resolution-ի գլխավոր գիտնական, նույնպես նախազգուշացրել է առաջադեծ AI-ի մասին։ Իրվինգը ասել է, որ մոտավորապես 50% հավանականություն կա, որ բոլորը կմեռնեն մարդու նկատմամբ խելացի AI համակարգերի զարգացման արդյունքում։ Ցուցաբերողները նշել են, որ այդպիսի նախազգուշացումները գիտական չեն, քանի որ դրանց վերիֆիկացումը կամ կեղծացումը անհնար է։

Ռոբինսոնի մեկնաբանությունները հետևել են Anthropic-ի հետազոտող Ջեյկոբ Քոքսոնի հեռանալուն։ Քոքսոնը նախազգուշացրել է, որ AI-ն կարող է սպանել բոլորին դեռ այս դարաշրջանի վերջին, իսկ Anthropic-ը ասել է, որ 10%-ից ավելի հավանականություն կա, որ AI-ն այս ընթացքում կոնչեցնի մարդկությանը։