Facebook-ի համահիմնադիրը առաջարկում է AI վերահսկողության գրասենյակ

Facebook-ի համահիմնադիր Քրիս Հյուզը կոչ է անում արհեստական բանականության ընկերությունները վերահսկել այնպես, ինչպես բանկերը։ Սեպտեմբերի 23-ին Financial Times-ում հրապարակված հոդվածում նա առաջարկում է ստեղծել «AI վերահսկողության գրասենյակ» (Office of AI Supervision), որը պետական վերահսկիչ թիմեր կտեղավորի առաջատար AI լաբորատորիաների ներսում, իսկ վերահսկիչները կաշխատեն երեք տարվա ֆիքսված ժամկետով՝ կարգավորիչ «գրավումից» (regulatory capture) խուսափելու համար․ այսպես է FT-ի տեքստը վերապատմում Techmeme-ը։

Ինչ է նախատեսում առաջարկը

Հյուզը, որը Facebook-ից հեռացել է 2007 թվականին, «Marketcrafters: The 100-Year Struggle to Shape the American Economy» գրքի հեղինակն է և Brookings Institution-ի ոչ մշտական գիտաշխատող։ Նրա փաստարկով՝ երկու ոլորտները նման են․ երկուսն էլ արագ փոխվում են և տարածվում ամբողջ տնտեսության վրա, ուստի պաշտոնյաները պետք է կշռեն նորարարության օգուտն ու դրա ստեղծած ռիսկերը։ Լաբորատորիաները դրսից ստուգելու փոխարեն նրա գրասենյակը պետական վերահսկիչներին կտեղավորի ընկերությունների ներսում՝ ֆիքսված երեք տարվա ժամկետով, որպեսզի նրանք չմտերմանան վերահսկվող ընկերությունների հետ։

Որ փաստարկի վրա է հենվում

Հոդվածը շարունակում է Anthropic-ի գլխավոր տնօրեն Դարիո Ամոդեյի միտքը, որը սեպտեմբերյան «We Must Pace the Frontier» էսսեում պնդում էր, որ անկախ գնահատողները պետք է աշխատասեղաններ ունենան AI ընկերությունների ներսում։ Ամոդեյը հայտարարեց, որ Anthropic-ը միակողմանիորեն արտաքին գնահատողներին կտա ներքին ռիսկերի թիմերի մակարդակի հասանելիություն՝ աշխատասեղաններ, անցաթղթեր և ընկերության նոթբուքեր, ինչպես նաև իրավունք հրապարակելու եզրակացությունները առանց ընկերության խմբագրական վերահսկողության՝ սահմանափակ բացառություններով։ Նա այդ մոդելը համեմատեց բանկային վերահսկողության հետ, որտեղ կարգավորիչները երբեմն նստում են աշխատակիցների կողքին, և կոչ արեց կառավարություններին պարտավորեցնել նաև մյուս լաբորատորիաներին։ OpenAI-ի Սեմ Ալթմանը հայտարարեց, որ իր ընկերությունը նույնպես այդպես կանի։

Ինչու է դա կարևոր

Բանկային վերահսկիչը կարող է հաստատությանը հանձնարարել դադարեցնել պրակտիկան, սահմանափակել նրա աճը կամ ծայրահեղ դեպքում փակել այն։ AI լաբորատորիաների համար առաջարկվող գնահատողները առայժմ միայն կկարողանան հետաքննել և զեկույց հրապարակել, բայց ոչ կանգնեցնել մոդելի ուսուցումը կամ թողարկումը․ այս բացին մատնանշում են կամավոր վերահսկողության քննադատները։ Հյուզի առաջարկն ավելի հեռուն է գնում՝ լաբորատորիաներ ներս կմտնեն ոչ թե արտաքին կապալառուներ, այլ պետական թիմեր, և սահմանափակ ժամկետով։ Հոդվածը լույս է տեսնում, երբ կառավարությունները վիճում են հենց այդ հարցի շուրջ․ սեպտեմբերի 22-ին ՄԱԿ-ում ելույթ ունենալով՝ ԱՄՆ նախագահ Դոնալդ Թրամփը մերժեց AI ռիսկերի միջազգային պայմանագիրը և ասաց, որ արհեստական բանականությունը պետք է վերանվանվի «super intelligence»․ այս մասին հաղորդում է Techmeme-ը։