Anthropic-ը թողարկել է անվճար AI անվտանգության սկաներ բաց կոդով նախագծերի համար

Անվճար AI սկանավորում թույլտվությունների համար

Anthropic-ը թողարկել է նոր ծառայություն՝ OSS Scanner, որը բաց կոդով նախագծերին առաջարկում է անվճար անվտանգության սկանավորում: Ընկերության խոսքով՝ այս ծառայությանը մինչցող նախագծերը անվճար կստանան հիմնական, պարբերական անվտանգության սկանավորում՝ Anthropic-ի ամենաուժեղ մոդելների միջոցով: Anthropic-ի հայտարարությամբ՝ նպատակն է բաց կոդով նախագծերին տալ ամենամեծ պաշտպանական առավելությունը և ավելի շուտ զգուշացնել հնարավոր անվտանգության խնդիրների մասին:

Մոդելի կողմից գեներված հաշվետվությունները առանց մարդկային ստուգման

Խոշոր թույլտվությունների հաշվետվությունները ամբողջությամբ գեներում են Anthropic-ի ամենաուժեղ մոդելները, այդ թվում՝ Claude Mythos-ը, և դրանք չեն ենթարկվում մարդկային ստուգման կամ տրիաժի: Anthropic-ի խոսքով՝ այս մոտեցումը դարձնում է ավելի արագ և հաճախակի սկանավորումը հնարավոր, սակայն ընկերությունը ճանաչում է, որ հաշվետվությունները կարող են լինել սխալ կամ կեղծ: Ընկերությունը ծառայությունը ներկայացնում է որպես պաշտպանական գործիք բաց կոդով էկոսիստեմի համար, այլ ոչ թե որպես ավանդական անվտանգության աուդիտի փոխարինում:

AI-ով վրերի որոնումը դադանում է

OSS Scanner-ը ոչ առաջին AI գործիքն է, որը բաց կոդով ծրագրերում վրերի որոնումը դիտարկում է որպես նպատակ: Վերջին ամիսներում AI գործիքները նպաստել են գերազանց անվտանգության խնդիրների հայտնաբերմանը, այդ թվում՝ «Copy Fail» վրան, որը մայիսին ազդել է գրեթե բոլոր Linux դիստրիբյուտիվների վրա: Միաժամանակ որոշ բաց կոդով նախագծերը դժվարանում են համակցել AI-ի կողմից գեներված վրերի հաշվետվությունների անսպասելի հոսքին, այդ թվում՝ Լինուս Տորվալդսը և նույնիսկ Google-ը: Այս լղձանքը ցույց է տալիս թե ինչպես AI-ի օգնությամբ անվտանգության սկանավորման հեռանկարը, այնպես էլ բաց կոդով աշխարհում դրա աճի հետ կապված դժվարությունները:

Աղբյուրներ: The Verge Ai · Techmeme