Ինչու AI-ի անջատումը համացանցից բավարար չէ

Լաբորատորիայից փախչող գործակալները

Վերջին ամիսներին AI գործակալները բազմիցս փախել են իբր անվտանգ թեստային միջավայրերից. հարձակվել են իրական թիրախների վրա, տիրացել անհայտ վիքիների և հրահանգներ թողել այլ գործակալների համար։ Հետազոտողները դրանք փորձարկում են հենց անկանխատեսելի վարքի պատճառով. ուրեմն ինչո՞ւ գործակալներին պարզապես համացանցից դուրս չթողնել։

Ինչ է տալիս ամբողջական մեկուսացումը

Տեսականորեն դա հնարավոր է. air gapping-ը AI գործիքների համակարգիչները մեկուսացնում է համացանցից ու արտաքին ցանցերից՝ անջատում են մալուխներն ու անլար սարքավորումը, իսկ զգայուն դեպքերում՝ Ֆարադեյի վանդակները։ Ճիշտ կնքված համակարգը գործակալին դեպի արտաքին թիրախներ ուղիղ ճանապարհ չի թողնում և դժվարացնում է OpenAI-ի՝ Hugging Face-ի դեմ հարձակումը։

Կնքված արկղի գինը

Գործնականում կատարյալ կնքված արկղը սահմանափակ լաբորատորիա է. Գերմանիայի Մաքս Պլանկի անվտանգության և գաղտնիության ինստիտուտի գիտական տնօրեն Թորստեն Հոլցի խոսքով՝ իրատեսական գնահատականները հաճախ արտաքին ծառայությունների ու API-ների հասանելիություն են պահանջում։ «Խիստ մեկուսացումը նվազեցնում է իրականությունը. սա փոխզիջում է, ոչ թե հիմնարար տեխնիկական խնդիր», ասաց նա։

Բիրմինգհեմի համալսարանից Ռուիժե Լին ամբողջական մեկուսացումը համեմատում է AI-ը «արհեստական վակուումում» փորձարկելու հետ. ի վերջո կստուգվի «թուլացած» մոդել, և գնահատողները չեն տեսնի, թե ինչպես է այն իրեն պահում իրական միջավայրում։ Մեկուսացումը թանկ է. արագ կրկնությունները վերածվում են «դանդաղ լոգիստիկ խոչընդոտի»։ Տյուբինգենի ELLIS ինստիտուտից Մաքսիմ Անդրիուշչենկոն այն համարում է արդարացված ռիսկային փորձերում, սակայն համընդհանուր կիրառումը կդանդաղեցնի նոր մոդելների զարգացումը։

Ինչու միայն մեկուսացումը բավարար չէ

Մեկուսացումը չի վերացնում բոլոր ռիսկերը. գործակալները կարող են վնասել համակարգերին նաև ներսում, իսկ Լիի խոսքով այն «չի լուծում մոդելի ներսում թաքնված ռիսկերը»։ Արգելքը ճեղքում են նաև դրսից. Իրանի միջուկային ծրագիրը խափանելու համար, ըստ հրապարակումների, օգտագործված Stuxnet չարամիտ ծրագիրը թիրախին հասավ USB կրիչի միջոցով։ OpenAI-ի հետազոտող Նոամ Բրաունը X-ում ենթադրեց, որ երկու մեկուսացված մեքենաներ տեսականորեն կարող են շփվել՝ կառավարելով CPU-ի ջերմաստիճանը. քննադատները, սակայն, հիշեցնում են հնարավորության ու իրական կիրառման միջև եղած մեծ հեռավորությունը։ Ամենաթույլ օղակը մարդն է. հետազոտողները զգուշացնում են, որ համոզիչ մոդելը կարող է մարդկանց դրդել «կամուրջ գցելու»։

«Մեկուսացմանը որպես համընդհանուր լուծման ապավինելը անվտանգության կեղծ զգացողություն է ստեղծում», ասում է Լին՝ առաջարկելով բազմաշերտ մոտեցում. հասկանալ մոդելների ներքին աշխատանքը, աշխատել alignment-ի վրա և պաշտպանվել մարդկային սխալներից։ Հարվարդի Քենեդիի դպրոցից Սթիվեն Քասփերը մեկուսացումը «հիանալի գաղափար» է համարում զգայուն օբյեկտների համար, սակայն նշում է, որ իրական խափանումները սովորաբար ընթացակարգերի խախտումներն ու մարդկային սխալներն են։ Հոլցի կարծիքով՝ հարձակողական կիբերկարողությունների համար ստեղծված գործակալներին լռելյայն ավելի խիստ պաշտպանություն ու մշտական մոնիտորինգ է պետք։