Perplexity-ը բաց կոդով հրապարակեց SPACE-ի անվտանգ sandbox հարթակը AI ագենտների համար

Perplexity-ը բաց կոդով հրապարակեց SPACE-ի sandbox տեխնոլոգիան

Perplexity-ը բաց կոդով հրապարակեց SPACE-ը՝ AI ագենտների համար նախատեսված անվտանգ sandbox հարթակ, որը մշակողներին ավելի անվտանգ ավտոնոմ ագենտներ ստեղծելու համար արտադրությունում փորձառու հիմք է տալիս: Ընկերությունը հայտարարեց թողարկման մասին այսօր և պահեստը հասանելի դարձրեց GitHub-ում ստուգման, հարմարեցման և ներդրումների համար:

Computer-ի գործարկմանը հետո փետրվարին Perplexity աշխատում է ագենտների կառավարման մարտահրավերների վրա, այդ թվում՝ ապահովելով անանվտանգ պահվածքի հայտնաբերումը և անվերահսկելի ագենտների ակտիվության կանխումը: Հուլիսին այն փոխարինեց իր գործակալ sandbox մատակարարին SPACE-ով, որը ներքին լուծում է անվտանգության և կայունության համար: Վերջին թեստերը ցույց տվին, որ SPACE դիմադրում է ցանցային կողային հետապնդման տեխնիկաներին, որոնք նման են OpenAI-ի և Hugging Face-ի ինցիդենտում օգտագործված մեթոդներին:

Տեխնիկական ճարտարագիտությունը և անվտանգությունը

Յուրաքանչյուր SPACE sandbox աշխատում է թեթև վիրտուալ մեքենայում՝ սեփական օպերացիոն համակարգով, որը իզոլյացիա է ստեղծում ագենտների ծանրաբեռնվածության և համակարգի միջև: Կենտրոնական վերահսկման հարթակը կառավարում է աշխատանքային տարածքի ստեղծումը, դադարեցումը, երկարաձգումը և ջնջումը: Հարթակը sandbox-ները անվստահելի է համարում և ցանցում մուտքը և վավերացման տվյալները կառավարում է դրանցից դուրս, որպեսզի ագենտները կարողանան միանալ վավերացված ծառայություններին առանց տվյալները պահելու:

SPACE օգտագործում է հաճախակի ֆայլային սնեփշոթներ և լրիվ մատուցման կետեր՝ խանգարումների դեպքում առաջընթացը պահպանելու համար: Արդյունավետության համար համակարգը լրիվ միջավայրի պատճենների փոխարեն պահպանում է ինկրեմենտային փոփոխություններ, ինչը նվազեցնում է sandbox-ի ստեղծման, վերականգնման և մասնատման ծախսերը: Սա աջակցում է իզոլյացված կոդի գործարկմանը, դադարեցման-երկարաձգմանը, սեսիայի վերականգնմանը և աշխատանքային տարածքի մասնատմանը այլընտրանքային մոտեցումներ ուսուցանելու համար:

Աշխատանքը իրական միջավայրում և անվտանգության հաստատումը

Հուլիսում գործարկմանը հետո SPACE ծառայում է բոլոր Computer սեսիաներին և օրական միլիոնավոր sandbox-եր է ստեղծում: Արտադրության երաթի համեմատություններում sandbox-ի ստեղծումը առաջին գործակալ մատակարարի համեմատ երեքից հինգ անգամ արագ է անձնավորվել: Անվտանգության գնահատումներում SPACE-ին ներկայացվել է 108 նպատակային փախչելու փորձ. վիրտուալ մեքենայից համակարգ գալու փորձ չի գրանցվել, թեև ցանցային սահմանափակումների կողային հետապնդման մի քանի դեպք հայտնաբերվել է և ուղղվել: Հաջորդական թեստերը հաստատեցին, որ ուղղումները կանխել են երկու հարձակման մեթոդները: Perplexity-ը մյուս sandbox հարթակներում հայտնաբերած թուլությունները բացահայտեց դրանց արտադրողներին:

Արդյունաբերության տարածումը և անվտանգության նախաձեռնությունը

Ամպային ենթակառուցվածքի մատակարարները՝ CoreWeave-ը և Akamai-ը, փորձարկել են և գործարկել SPACE-ը իրենց հարթակներում, իսկ հենց հիմա համագործակցում են Perplexity-ի հետ՝ դրան օգտատերերի համար հասանելի դարձնելու համար: Crusoe-ն նախաձեռնում է համագործակցություն՝ SPACE-ի ինտեգրելու համար իր Managed AI Services պորտֆոլիոում: Բաց կոդով հրապարակումը ընդլայնում է Perplexity-ի անվտանգության նախաձեռնությունը Secure Intelligence Institute-ի միջոցով և լրացնում է ավելի ուշ հրապարակված գործիքները՝ BrowseSafe-ը՝ վնասակար վեբ հրահանգները հայտնաբերելու համար, Numbat-ը՝ վերջնակետներում ագենտների վաքածքը մոնիտորինգ կատարելու համար և Bumblebee-ը՝ մշակողի միջավայրի ռիսկային կազմաձևումները սկանավորելու համար:

Աղբյուրները: Perplexity · Techmeme · Unite.Ai