Գաղտնի AI․ ինչպես պաշտպանել թե՛ տվյալները, թե՛ մոդելի կշիռները

Կազմակերպությունները ցանկանում են AI-ը գործարկել ամենազգայուն տվյալների վրա, սակայն մոդել ստեղծողները չեն հանձնում իրենց կշիռները։ Փոխադարձ վերահսկողության պահանջը փակուղի է ստեղծել, որը փորձում է հաղթահարել գաղտնի AI-ը։

Երկկողմ վստահության խնդիրը

Կորպորատիվ AI-ը պետք է բավարարի երկու կողմի։ Կազմակերպությունը պետք է զգայուն տվյալները պահի իր վերահսկողության տակ, իսկ մոդել մշակողները՝ պաշտպանեն կշիռները և ծրագրային ապահովումը։

VAST Data-ի տեխնիկական տնօրեն և համահիմնադիր Alon Horev-ը The New Stack-ին ասում է, որ խնդիրն առավել սուր է, երբ AI-ը վերամշակում է հաճախորդի տեղեկատվությունը։ «Եթե անգամ այսօր մոդելին խնդրեք քողարկել զրույցը կամ հեռացնել PII-ն, դժվար է 100% վստահ լինել, որ դա տեղի է ունեցել», նշում է նա։

Horev-ի խոսքով՝ ամենաուժեղ մոդելներն ավելի ու ավելի հաճախ մատուցվում են որպես SaaS ծառայություն։ Սակայն WAN-ով փոխանցումը դրանք հանձնում է ավելի շատ համակարգերի ու օպերատորների, և կազմակերպությունները կարող են չցանկանալ ապավինել մատակարարի խոստմանը։ Այդ պատճառով տվյալների մի մասը մնում է տեղում։

Ինչպես են աշխատում գաղտնի հաշվարկները

Պահպանման և փոխանցման ընթացքում գաղտնագրումը պաշտպանում է տվյալները։ Գաղտնի հաշվարկները (confidential computing) այդ պաշտպանությունը տարածում են նաև մշակման միջավայրի վրա․ ապարատային մեկուսացումը ստեղծում է պաշտպանված անկլավ, որտեղ տվյալները և մոդելի կշիռները գաղտնագրված են մնում մինչև հաստատված ծանրաբեռնվածությանը հանձնելը։

Գաղտնագրային վավերացումը ստուգում է սարքաշարը, վիրտուալ մեքենան և ծրագրային ապահովումը բանալիներ տրամադրելուց առաջ։ Մշակողը մոդելը գաղտնագրում է կոնկրետ գաղտնի VM-ի հանրային բանալիով, և այն վերծանել կարող է միայն այդ VM-ի անհատական բանալին։ Հաճախորդն օգտվում է մոդելից՝ առանց կշիռներին հասանելիության։

Բանալիների անկախ վերահսկողությունը առանձնացնում է կողմերին․ կազմակերպությունը պահում է իր տվյալների, մշակողը՝ իր մոդելի բանալիները։

VAST DataEnclave-ը և էկոհամակարգը

Սեպտեմբերի 22-ին մեկնարկած DataEnclave-ը VAST AI Operating System-ի հնարավորություններից է։ Այն միավորում է մոդելը, հավելվածային շերտը և տվյալների հարթակը հաճախորդի վերահսկողության տակ, իսկ մատակարարը ծրագրային ապահովումը հասանելի է դարձնում առանց մտավոր սեփականությունը հանձնելու։

Horev-ի խոսքով՝ ընկերությունը աշխատում է Cohere, Deepgram, Factory, Fundamental և TwelveLabs մոդել մշակողների, ինչպես նաև NVIDIA, CrowdStrike, Fortanix, Nscale, Cisco և Supermicro մատակարարների հետ։ Գաղտնի AI-ին պաշտպանված GPU-ն բավարար չէ։

Ծախսեր, շահագործում և գործակալներ

Հաճախորդի վերահսկողության տակ գտնվող ենթակառուցվածքը փոխում է նաև ծախսերի հարցը, սակայն AI-ն ինքնաբերաբար չի էժանանում։ «Գործակալային AI-ի աշխարհը շատ արագ է շարժվում, և մենք պետք է սահմանափակենք, թե ինչ կարող է գործակալը տեսնել ու անել», ասում է Horev-ը։ Թիմերին պետք է միասնական տեսք պահոցի, ցանցի և հաշվարկների վրա և դիտարկելիություն։