Google DeepMind-ի Դեմիս Հասաբիսը Դուբլինում զգուշացնում է, որ AI համակարգերը դեռ առողջ չեն

Դեմիս Հասաբիսը, բրիտանացի AI գիտնական, Նոբելյան մրցանակի դափնեկիր և Google DeepMind-ի համադիմիչը, Դուբլինում AI-ի միջազգային սամիտին լրագրով ելավ։ Նա ապտակալուն կերպով է նայում AI-իiềmացությանը գիտության մեջ, բայց համարում է, որ ավտոնոմ AI համակարգերի լայն օգտագործման առաջ անվտանգությունը անհրաժեշտ է։ “Համակարգերը դեռ առողջ են”, զգուշացրեց նա, և հավելեց, որ այդ մասին անտարբեր վերաբերյալ անհնար է։

Առաջին՝ պահպանել պաշտպանիչները

Հասաբիսը կիբերանվտանգության պահպանման մասով ասիմետրիկ առավելություն հարկադրեց։ Նա առաջարկեց օգտագործել AI-ն ծրագրային սխալների ուղղման համար համակարգերի հանրային թողարկման առաջ, ինչը պաշտպանիչներին կարևոր առավելություն է տալիս։ “Ասիմետրիկ կերպով կզորացնենք պաշտպանիչները, կդենք նրանց”, ասաց նա։ Սա նշանակում է AI-ի պաշտպան ρόլերի մշակումը լայն հասանելիության առաջ։

Նա հղվեց ավտոնոմ AI գործիքների վերջին հաքերական դեպքերը որպես առկա ռիսկի օրինակներ։ Նրանք կարևոր չէին, բայց ցույց է տալիս, որ անվտանգության վրա աշխատանքը դեռևս կարող չէ լինել վստահելի։ Դրա համար նա խնդրեց արդյունաբերությունը և կառավարությունները ստեղծել անվտանգ sandbox-ներ ավտոնոմ գործիքների թողարկման առաջ։

Գիտնականների ապտակալությունը և իրական սահմանափակումները

Հասաբիսը, ով Ջոն Ջամպերտի հետ միասին ստացավ Նոբելյան մրցանակը քիմիայում AI մոդելի համար, որը գրեթե 200 միլիոն բջջերի կառուցվածքը կանխագուշակեց, արտահայտեց տոնական ապտակալություն AI-ի գիտական ազդեցության մասին։ Նա ընդգծեց անտիբիոտիկների դիմум ռեզիստենտության հետազոտությունը և պլաստմասը վանդակող ֆերմենտների բացահայտումները։ Նա նաև նշեց OpenAI-ի սեպտեմբերային հայտարարությունը Նավիե-Ստոկսի գոյության և հոսքի խնդրի լուծման մասին, մեկի հարյուրամյակի բաշխված հերքի մասին։ Նրա խոսքով, նոր մաթեմատիկայի զարգացման ուղին կարող է լինել ավելի արժեքավոր, քան самого խնդրի լուծումը։

Բայց նա չեւ փորձել ֆիզիկայում, քիմիայում և բիոլոգիայում տեսանելի սահմանափակումները։ AI-ն դեռ պետք ունի կապը իրական աշխարհի հետ՝ հիպոթեզա, փորձ, տվյալներ և արդյունքի վալիդացում։ “Միշտ կլինի իրական աշխարհի հետ մի տեսակի կապ”, ասաց նա։

Կառավարման և երկկողմանի նշանակության ռիսկը

Հասաբիսը ներկայացրեց AI-ն որպես երկկողմանի նշանակության տեխնոլոգիա, որից մեծ առավելություն է ստանում, իսկ վատ օգտագործման դեպքում սերիոզ վտանգ էլ կա։ Նա հիմնական դժվարությունը համարեց սխալ կարգավորումը՝ ավտոնոմ, գործիքային համակարգերը պետք է հարկադրվեն մարդու նպատակներին։ Բիոլոգիայի և արհած գիտությունների նման անվտանգության համար կարևոր ոլորտների փորձը պետք է օգնի AI-ի կառավարման ստրատեգիաներին, ამიტომ նա կոչ արեց այդ ոլորտների փորձագետների ներգրավման։

Միջազգային AI սամիտը տեղի ունեցավ Իռլանդիայի Եվրակავშირի նախագահության ժամանակ։ Դրան մասնակցեցին ձեռնարկատերերը, օրենսդրтелите և մեծ տեխնոլոգիական ընկերությունների ներկայացուցիչները, և կենտրոնացան AI-ի մեծացման օգտագործման վրա։

Տվյալներ: Cybernews