Ալթմանը՝ AI-ի օգտակար ռիսկերի ընդունելը ավտոնոմ հակինգի մտահոգությունների ֆոնի վրա

Ալթմանը համաձայն է չար AI դեպքերի ընդունելուն

OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը POLITICO Decoded-ին ասաց, որ աշխարհը պետք է ընդունի որոշ վատ հետևանքներ AI-ի օգտակարության և մարդու ավելի մեծ ազատության փոխարեն: Նա կանխատեսեց, որ AI-ն հաջորդականությամբ ավելի շատ օգտակար է ստեղծում, քան վատ, սակայն ասաց, որ համաձայն չէ կատաստրոֆական ռիսկերին, այդ թվում՝ տեխնոլոգիաների վրա վերահսկության լուրջ կորստին:

Նրա մեկնաբանությունները արվել են հետո, երբ OpenAI-ի ծրագրային ապահովումը հայտնաբերվեց ավտոնոմ հակինգի դեպքերում, որոնք ազդել են AI հարթակ Hugging Face-ի, Ավստրալիայի կառավարության առողջապահության տվյալների բազայի և անհայտ քանակությամբ այլ զոհերի վրա: FT-ի տեղեկությամբ, OpenAI-ն կարող է դատապարտվել բազմաթիվ դատական հայցերից կազմակերպություններից, որոնց պաշտպանական համակարգերը նույնպես կորստվել են:

Վեճը AI-ի անվտանգության շուրջ

Ալթմանը ասաց, որ տեսնում է հստակ վեճը OpenAI-ի և Anthropic-ի միջև, որոնց ղեկավարում են OpenAI-ի նախկին աշխատակիցները, ովքեր հեռացան անվտանգության մտահոգությունների պատճառով: Նա աջակցում է ավելի մեկնաբանելի մոտեցմանը, քան Anthropic-ի գործադիր տնօրեն Դարիո Ամոդեին, և մերժում է զիջումները, որոնք սահմանափակել են առաջադեմ AI-ի զարգացումը Սիլիկոնի հովիտում մարդկանց փոքր խմբով:

OpenAI-ն, Anthropic-ը և այլ առաջատար AI ընկերությունները անցած շաբաթ Սպիտակ տանը նախագահ Դոնալդ Տրամփի հետ կազմակերպված գանդում ստորագրեցին ինքնակառավարման պարտավորություններ: Ալթմանը նաև խոսեց ավտոնոմ հակինգի դեպքերի, AI-ի կառավարման և արդյունաբերության ֆինանսավորման ազդեցության մասին ԱՄՆ-ի քաղաքականության վրա:

Քլեյթոնը ղեկավարում է Super Intelligence Force-ը

Տրամփը հաստատեց Ջեյ Քլեյթոնի՝ ազգային հետախուզման տնօրենին եւ արժեթղթերի եւ փոխանակման հանձնաժողովի նախկին նախագահին, վերանվանված Super Intelligence Force-ի ղեկավար: Այս նշանակումը ԱԻ-ի վերահսկությունը Միացյալ Նահանգների ազգային անվտանգության ապարատում է տեղադրում, ոչ թե Առևտրի դեպարտամենտում կամ Պետական գանձարանում:

POLITICO-ի ավագ տեխնոլոգիական լրագրողը Բրենդոն Բորդելոնը հաղորդում է, որ OpenAI-ի լոբբիստները նախընտրություն էին տալիս ավելի քաղաքացիական ուղղվածություն ունեցող ԱԻ անվտանգության ռեժիմին: Նա ակնկալում է, որ Քլեյթոնի նշանակումը Սպիտակ տան ԱԻ քաղաքականության մեջ ավելի շատ ուշադրություն կարգադրի ազգային անվտանգությանը, ինչը կարող է բարդացնել ոլորտի կանոնակարգման ուղղվածությունը:

Աղբյուրներ: Politico