Google DeepMind-ի աշխատակիցները հրաժարական են տալիս ռազմական AI պայմանագրերի պատճառով

Աշխատակիցների հեռացումը

BBC-ն զրուցել է մի քանի աշխատակցի հետ, որոնք հրաժարական են տվել Google DeepMind-ից կամ հեռանում են ռազմական AI պայմանագրերի պատճառով։ Լոնդոնաբնակ հետազոտական ինժեներ Sofia Liguori-ն այս շաբաթ հրաժարական է տվել և բացառապես BBC-ին խոսել որպես մասնավոր անձ՝ չնայած պայմանագրին։ «Գիտակցությունը, որ իմ ընկերությունը ավելի ու ավելի է մղում AI համակարգերը ռազմական գործողությունների, ինձ ամոթ է պատճառում աշխատել Google-ում», - ասել է նա։ Երեք տարի անց նա ասել է, որ կորցրել է հավատը Google-ի էթիկական արժեքների նկատմամբ և նշել ԱՄՆ-ի ու Իսրայելի բանակների հետ աշխատանքը։

AI հետազոտող Andreas Kirsch-ը նույնպես հեռացել է այս ամիս՝ ասելով, որ Google-ի կառավարումն ու վերահսկողությունը իմաստալից չեն ռազմական և գաղտնի միջավայրերում AI-ը անվտանգ տեղակայելու համար, ընկերությունը վետոյի իրավունք չունի Պենտագոնի կողմից իր AI-ի օգտագործման վրա և սահմանափակ տեսանելիություն ունի տեղակայման նկատմամբ, իսկ մոդելները բավականաչափ կայուն չեն և նման առաջադրանքների համար չեն մարզվել։

Google-ի պատասխանը

Google-ի խոսնակը BBC-ին ասել է, որ ընկերությունը աշխատում է աշխարհի պետական կազմակերպությունների հետ և հետևում է նման պայմանագրերի կնքման հետևողական գործընթացին՝ ընդունելի օգտագործման քաղաքականությամբ ու AI սկզբունքներով։ Նրա խոսքով՝ ընկերությունն ունի հատուկ ուղիներ աշխատակիցների մտահոգությունների և խիստ քաղաքականություն՝ վրեժխնդրությունը կանխելու համար։

Պայմանագրեր և վերահսկողություն

Պենտագոնի հետ պայմանագիրը թույլ է տալիս օգտագործել AI-ը «ցանկացած օրինական պետական նպատակի» համար, սակայն արգելում է ներքին զանգվածային հսկողությունը կամ ինքնավար զենքը, ներառյալ թիրախների ընտրությունը, առանց պատշաճ մարդկային վերահսկողության։ ԱՄՆ պաշտպանության նախարար Փիթ Հեգսեթը հունվարին ասել է, որ Թրամփի վարչակազմը կդառնա «AI-ի վրա հիմնված մարտական ուժ»։ Պաշտպանության նախարարության փոխնախարար Էմիլ Մայքլը հայտարարել է՝ «Արագությունը որոշում է հաղթանակը AI-ի դարաշրջանում»։

Պենտագոնի հետախուզության և տվյալների հիմնական հարթակը՝ Maven Smart Systems-ը, մշակել է Palantir-ը և օգնում է անձնակազմին ընտրել ու նույնականացնել հարվածների թիրախները։ Project Maven-ի նախկին տնօրեն, թոշակի անցած գեներալ-լեյտենանտ Jack Shanahan-ը ասել է, որ «փիլիսոփայությունը» AI-ը հնարավորինս արագ և լայն տեղակայելն է՝ հնարավոր է խիստ փորձարկման հաշվին։ OpenAI-ի աշխարհաքաղաքական թիմի նախկին ղեկավար Sarah Shoker-ը ասել է, որ AI-ը կրճատում է օպերատորի որոշման ժամանակը, և հարյուրավոր թիրախների դեպքում, սխալների իմաստալից ստուգումը գրեթե անհնար է։ Google-ի AI սկզբունքները պահանջում են մարդկային վերահսկողություն և միջազգային իրավունքի ու մարդու իրավունքների պահպանում, սակայն, ըստ աշխատակիցների, կրիտիկական պահերին վերահսկողությունը պարզ չէ։

Ոլորտային համատեքստ

Google-ը այս տարի պայմանագիր է կնքել ԱՄՆ բանակի հետ. նման պայմանագրեր են ստորագրել OpenAI-ը, Amazon-ը, Microsoft-ը, SpaceX-ը, Oracle-ը, Nvidia-ն և Reflection ստարտափը։ 2024 թվականին աշխատակիցները քննադատել են Google-ին Amazon-ի հետ համատեղ 1,2 միլիարդ դոլարի Project Nimbus-ի համար, որը Իսրայելին տալիս է AI և ամպային ենթակառուցվածք. Google-ը նշել է, որ այն ուղղված չէ զգայուն ռազմական բեռներին։

Աշխատակիցները BBC-ին ասել են, որ վախենում են բացահայտ խոսելուց, քանի որ պայմանագրերն արգելում են հրապարակային քննադատությունը։ «Սկզբունքորեն ինձ արգելված է քննադատել Google-ին ողջ կյանքում», - ասել է Liguori-ն։ DeepMind-ի ներկա աշխատակիցը, որը վրեժխնդրության վախից չի նշել անունը, ասել է, որ շատ մոտիվացված աշխատակիցներ կարող են հեռանալ, սակայն կարիերայի սկզբում գտնվող մարդիկ կարող են զբաղեցնել այդ պաշտոնները. «դա կարող է լինել սերնդափոխություն»։

Աղբյուրներ: BBC