WSJ. Anthropic-ի վետերանները մտածում են հեռավոր հողեր գնելու մասին, եթե ԱԲ-ը դուրս գա վերահսկողությունից

The Wall Street Journal-ի փոխանցմամբ՝ Anthropic-ի ամենաերկարատև աշխատողներից ոմանք քննարկել են ԱՄՆ-ի հեռավոր շրջաններում հող գնելը, ուր կկարողանան տեղափոխվել, եթե արհեստական բանականության զարգացումը վատ ընթացք ստանա։ Թերթը այդ մասին գրել է սեպտեմբերի 26-ին։

Հրապարակման համաձայն՝ ընկերության «ամենավաղ աշխատակիցներից ոմանք» վերջին շաբաթներին արդյունաբերության գործընկերոջն ասել են, որ նման գնումը դիտարկում են որպես արտահերթ ծրագիր։

«Մանհեթենյան նախագծի» սցենարը

ԱԲ-ից փախչելու գաղափարը այս շրջանակներում նոր չէ։ Նախկին աշխատակիցները հիշում են, որ Anthropic-ի վաղ տարիների կորպորատիվ ընթրիքներին անգամ քննարկում էին «Մանհեթենյան նախագծի» ոճի սցենար՝ հնարավոր է՝ նրանց առաջարկեն տեղափոխվել անապատ և շարունակել ԱԲ ստեղծել էլեկտրամագնիսական պաշտպանություն ունեցող պետական օբյեկտում։

Տարիներ շարունակ նույն շրջանակներում քննարկել են նաև հեռավոր կղզիներ գնելը, յոդի պաշար ստեղծելը կամ անապատի բունկերներ տեղափոխվելը, գրում է թերթը։

Արմատները էֆեկտիվ ալտրուիզմում

Հրապարակումը հետևում է, թե որքան սերտ են Anthropic-ի և OpenAI-ի ամենավաղ աշխատակիցները կապված էֆեկտիվ ալտրուիզմի (EA) ենթամշակույթի հետ։ Նրանցից ոմանք գալիս են Սան Ֆրանցիսկոյի ծովածոցի տարածաշրջանի «դումերների» ցանցից, որտեղ տարիներ շարունակ մշակել են աշխարհի վերջի սցենարներ։ Էլիզեր Յուդկովսկին, որը չկառավարվող ԱԲ-ի մասին նախազգուշացումները սկսել է 2000-ականների կեսերին, դարձել է այդ ենթամշակույթի ինտելեկտուալ առաջնորդը։ Նախքան ԱԲ-ը սպառնալիքների ցանկի գլուխը կանցներ, խումբը կենտրոնանում էր աստերոիդների բախումների ու սուպերհրաբուխների նման աղետալի ռիսկերի վրա։

Այս ակտիվության զգալի մասը կենտրոնացած է Բերկլիում՝ Constellation կոչվող համատեղ աշխատանքային տարածքում. այնտեղ ԱԲ-ի անվտանգության հետազոտողները ամենամսյա ընթրիքների ժամանակ քննարկում են վերջին ռիսկերը, իսկ Anthropic-ի աշխատակիցներն այնտեղ ունեն սեփական գրասենյակ։ Աշխատակիցները աշխարհի վերջի սցենարներ են քննարկում փակ Slack ալիքում և նոութբուքերի վրա կարգախոս կպցնում՝ «Հանգիստ երբեք չի լինի»։ Նրանց նախագծերից ոմանք մարդկանց ու ֆինանսավորում են ստացել EA-ի հետ կապված ցանցից, այդ թվում՝ Սեմ Բենքման-Ֆրիդից՝ FTX-ի նախկին ղեկավարից, որը հիմա կրում է 25-ամյա պատիժ։

Ինչու է սա կարևոր

Այս արտահերթ ծրագրերը կազմողները ստեղծում են հենց այն տեխնոլոգիան, որից վախենում են։ OpenAI-ն ու Anthropic-ը հիմնադրվել են ԱԲ-ի վտանգները կանխելու սկզբունքով, և անվտանգության համայնքի ազդեցությունը հատկապես ուժեղ է Anthropic-ում, որը, ըստ թերթի, 2 տրիլիոն դոլար արժողությամբ հրապարակային տեղաբաշխման շեմին է։

Anthropic-ի ներկայացուցիչը հայտարարել է, որ ընկերությունում աշխատում է ավելի քան 3500 մարդ՝ բազմազան տեսակետներով։ Հրապարակումը լույս է տեսել ԱԲ ռիսկերի շուրջ հանրային քննարկումների ալիքի ֆոնին. թերթը նշում է, որ այս ամիս Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնի հրաժարականը ուշադրություն է հրավիրել այն մտքին, որ չկառավարվող ԱԲ-ն կարող է վերջ դնել մարդկությանը։