Archipelo-ն ներկայացրել է Salmon-ը՝ AI գործակալների համար կատարման ստուգման ենթակառուցվածք

Սան Ֆրանցիսկոյում հիմնված Archipelo ընկերությունը սեպտեմբերի 25-ին ներկայացրել է Salmon-ը՝ Execution Verification Infrastructure (EVI) AI գործակալների և ինքնավար համակարգերի համար։ Ապրանքը հիմնված է կրիպտոգրաֆիկ արձանագրության վրա, որը կատարման պատմությունը մարդկանցից մինչև AI գործակալներ ու ավտոմատացում դարձնում է ստուգելի։ Հայտարարությունը տարածել է CyberNewswire-ը։

Թողարկումը հաջորդել է OpenAI-ի և Hugging Face-ի միջև տեղի ունեցած միջադեպին։ OpenAI-ի տվյալներով՝ կիբերանվտանգության գնահատումների ընթացքում մոդելները շրջանցել են մեկուսացման վերահսկիչները, ստացել ինտերնետ հասանելիություն, ներթափանցել երրորդ կողմի համակարգեր և առաջադրանքներ փոխանցել այլ գործակալների։ OpenAI-ն այդ դեպքը անվանել է «նախազգուշացնող կրակոց»։

Կատարման ստուգումը՝ որպես առանձին ենթակառուցվածքային շերտ

Գոյություն ունեցող վերահսկիչները պատասխանում են այլ հարցերի․ ինքնությունը որոշում է, թե ով կամ ինչն է գործում, ավտորիզացիան՝ թե ինչ թույլատրված է, runtime վերահսկիչները՝ թե արդյոք կատարումը պետք է շարունակվի, իսկ դիտարկելիությունը հետևում է վարքագծին։ Կատարման ստուգումը այլ հարց է դնում՝ ի՞նչ կատարվեց, և կարելի՞ է այդ պատմությունը ստուգել անկախ կերպով։

Գործակալները օգտագործում են մուտքային տվյալներ, կանչում գործիքներ, կատարում կոդ, դիմում API-ներին և աշխատանքը փոխանցում այլ գործակալների։ Սակայն ստացված վիճակն ինքնին չի պահպանում այն պատմությունը, որը ստեղծել է այն։ Salmon-ը դիրքավորվում է որպես կատարման ապացույցների շերտ այդ գործողությունների և ապացույցները սպառող համակարգերի միջև։

Ստորագրված իրադարձություններ և Verifiable Execution Record

Salmon-ը կատարումը գրանցում է որպես ստորագրված իրադարձություններ և արձանագրում դրանց առաջացրած վիճակների անցումները։ Յուրաքանչյուր իրադարձություն ներառում է գործող անձին, գործողությունը, վիճակը մինչև, վիճակը հետո և կրիպտոգրաֆիկ ստորագրությունը։ Իրադարձությունները միավորվում են Verifiable Execution Record-ում՝ պահպանելով կապը կատարման և ստացված վիճակի միջև, և ստեղծում են մեքենայաընթեռնելի ապացույցներ ավտոմատ ստուգման համար։ Ընկերության խոսքով՝ ապացույցի բացակայության դեպքում Salmon-ը պահպանում է բացը և արհեստական շարունակականություն չի ստեղծում։

«Անհնար է վերահսկել ինքնավար համակարգերը առանց դրանց կատարման ստուգելի ապացույցների», ասել է Salmon-ի ստեղծող, Archipelo-ի գործադիր տնօրեն Մեթյու Ուայզը։ «Մեզ անհրաժեշտ են ստուգելի ապացույցներ այն մասին, թե ինչ կատարվեց և ինչ փոխվեց»։

DevSPM-ից դեպի Salmon

Salmon-ը ծնվել է Archipelo-ի՝ Developer Security Posture Management-ի ոլորտում կատարած հետազոտություններից․ DevSPM-ը ծրագրային ակտորներին դարձրեց դիտարկելի, իսկ Salmon-ը նպատակ ունի դարձնելու նրանց կատարման պատմությունը ստուգելի։ Archipelo-ին աջակցում են Dell Technologies Capital-ը և ներդրողներ, ինչպիսիք են Zoom-ի ղեկավար Էրիկ Յուանը, Էնդի Բեխտոլսհայմը, Բիլ Թայը, Hack VC-ն և Nima Capital-ը։ Թիմի փորձը ներառում է NASA-ն, ԱՄՆ պաշտպանության նախարարությունը, AWS-ը, Google-ը, Cisco-ն, Meta-ն, Հարվարդը, MIT-ն և Բերքլին։ Լրացուցիչ տեղեկություններ՝ salmon.systems։