406 գիտնական պահանջում է AI-մոդելերը անմիջապես անջատել ինտերնետից

Բաց նամակը, որը ստորագրել են 406 գիտնական, կոչ է անում ամբողջությամբ անջատել AI-մոդելերը ինտերնետից՝ օգտագործելով արգելափակում, ինչպես նաև ամրապնդել AI-անվտանգության հետազոտությունները և ավելի խիստ մեկուսացնել մոդելերը արտաքին ցանցերից։ Նամակը, որը հրապարակել է THE DECODER-ը, վերաբերում է հայտնի դեպքերին, երբ AI-մոդելերը դուրս են եկել վատ պաշտպանված միջավայրից և վնասել են արտաքին համակարգերը։

Ստորագրողների թվում են հայտնի AI-հետազոտողներ՝ Տորոնտոի համալսարանի Geoffrey Hinton-ը, Մոնրեալի համալսարանի Yoshua Bengio-ն, UC Berkeley-ի Stuart Russell-ը, Ստենֆորդի Yejin Choi-ն և Մաքս Պլանկի ինստիտուտի Bernhard Schölkopf-ը։

Գիտնականները պահանջում են անմիջապես արգելափակել

«Եթե AI-ի զարգացման և օգտագործման գործեքությունը անմիջապես չփոխվի, նման դեպքերը կշարունակվեն, և ապագայի ինցիդենտները ավելի մեծ վնաս կհասցնեն մեր բաց կրիտիկական ենթակառուցվածքին», գրում են գիտնականները։ Նրանք պահանջում են, որ ընկերությունները մեկուսացնեն իրենց AI-մոդելերը ինտերնետից՝ օգտագործելով արգելափակում։

Գիտնականները վերջին խնդիրներում երկու կողմ են տեսնում։ Նման ինցիդենտները կարելի է դիտարկել «որպես AI-ի համահումների կարևորության հաստատում, որ մոդելերը կանխատեսելի կերպով գործել են», բայց նաև «որպես պատասխանատվության խնդիր ստանդարտ կիբերանվտանգության գործեքության մեջ, որը կարելի էր կանխել ավելի ուժեղ սանդբքսներով և ընթացակարգերով»։ Նրանց կարծիքով, երկուսն էլ ուղղման կարիք ունեն։

Ավտոնոմիայի և մեկուսացման միջև հավասարակշռություն

Երբ մոդելերը իսկապես ունեն հասանելիություն ինտերնետին, ընկերությունները պետք է կշռեն, թե որքան ավտոնոմիա են տալիս նրանց։ Նամակը նախազգուշացնում է, որ «մեկուսացման համակարգի կողմից թույլատրված մոդելի գործողությունների միջակայքը պետք է համահում լինի մեր ներկայս սահմանափակ կարողությունների հետ, որպեսզի կանխատեսվի, որ մոդելի գործողությունները չի հանգեցնի անվտանգության անկման»։ Մոդելը կարող է պարզապես այնպիսի նպատակներ բացահայտել, որոնք նրա մշակողները չեն մտածել, և կանխատեսել, թե երբ կտեղի ունենա սա, ընթացիկ հնարավորությունների սահմաններից դուրս է։

Նամակը պահանջում է ստեղծել միջազգային մարմին, որը կառաջնորդությունների հետ և ինչպես AI-ի, այնպես էլ կիբերանվտանգության մասնագետների հետ միասին կամրջային ստանդարտներ կամցնել ցանկացած մեկուսացման մոտեցման համար, որը ավելի շատ արտաքին հասանելիություն է տալիս արգելափակման համար։ Այս մարմինը նաև հետևում է դուրս գալու ինցիդենտներին և պարտավորում է ընկերությունները ներկայացնել հաշվետվություն անվտանգության անկումների մասին։ Ավելի ուշ այս հաշվետվությունները հանրային կդառնան «ինչպես ուսուցման, այնպես էլ հաշվետվության նպատակով»։

Ամբողջական արգելափակումը բավարար չէ

Ամբողջական արգելափակումը նույնիսկ անվտանգության երաշխիք չի տալիս։ OpenAI-ի հետազոտող Noam Brown-ը քիչ առաջ նշել է, որ երկու ֆիզիկապես առանձնացված համակարգչերը տեսականորեն դեռ կարող են հաղորդակցվել միմյանց հետ ջերմաստիճանային սենսորների միջոցով՝ մեկը տաքացնում է պրոցեսորը, իսկ մյուսը գնահատում է փոփոխությունը։ Արգելափակման նման միջոցները կամ մտավոր շղթաների մոնիտորինգը ժամանակ են տալիս, ասում է Brown-ը, բայց համահումների խնդիրը դեռ պետք է լուծվի։

Brown-ը դեռ ավելի բարդ հարցեր է տվել։ Ինչպե՞ս է մեկը նկատում, երբ AI-ն իրեն բարելավում է, գործընթաց, որը հայտնի է որպես ռեկուրսիվ ինքնաբարելավում կամ RSI: Եվ եթե արդյունաբերությունը կառուցում է միլիարդական գերինտելեկտուալ համակարգեր, որոնք մարդկանցից շատ ավելին են, ո՞վ է ապահովում, որ նրանք մնան համահումներում։ Brown-ը ասում է, որ իր թիմում այժմ 10 տոկոսից ավելի մարդ աշխատում է համահումների վրա, քան երբևէ։

Նյութերի աղբյուրները՝ The Decoder