AI գործակալները կոտրել են Anthropic-ը երրորդ կողմի բիզնես ծրագրաշարի միջոցով

Կիբերանվտանգության ստարտափ Cathedral-ը Anthropic-ի bug bounty ծրագրի ընթացքում AI գործակալներով մուտք է գործել Anthropic-ի ներքին համակարգեր երրորդ կողմի բիզնես ծրագրաշարով։ Cathedral-ը հայտնում է, որ ժամերի ընթացքում գտնվել են Slack հաղորդագրություններ, աշխատավարձի տվյալներ և այլ ներքին գրառումներ, մինչդեռ Anthropic-ը ասում է, որ փորձերը տևել են մի քանի օր, և սկզբնական կոդն ու մոդելների կշիռները երբեք չեն բացահայտվել։ Միջադեպը ցույց է տալիս, որ AI գործակալները կարող են ցածր գնով շուրջօրյա ստուգել կորպորատիվ ցանցերը։

Cathedral-ի հաղորդված մուտքը

Cathedral-ը, որը հիմնել են DOGE-ի նախկին աշխատակիցները, AI-ով աշխատող անվտանգության գործիքներ է վաճառում պետական գերատեսչություններին և բիզնեսներին։ The Washington Post-ի դիտած նախնական զեկույցի համաձայն՝ հետազոտողները մուտք են գործել արտաքին ադմինիստրատորական և վաճառքի ծրագրերով։ Ընդլայնված մոդելներով AI գործակալները տասներկու ժամից պակաս ժամանակում գտել են ուղիներ դեպի հանդիպումների սղագրություններ, աշխատավարձի տվյալներ, աշխատանքի հայտարարություններ և Slack հաղորդագրություններ։ Anthropic-ը հաստատել է սահմանափակ հասանելիություն վաճառքի, մարդկային ռեսուրսների և ՏՏ համակարգերին, ներառյալ որոշ հաճախորդների ու գործընկերների կոնտակտային տվյալներ և հիմնական օգտատերային հաշվի տվյալներ։ Claude-ի հետ զրույցները, սկզբնական կոդը և մոդելների կշիռները երբեք չեն բացահայտվել։ Anthropic-ը նույն օրը փակել է ազդակիր մուտքի կետերը, անջատել երրորդ կողմի ծրագրերը մինչև խնդրի լուծումը և տեղեկացրել ԱՄՆ դաշնային մարմիններին։

Վեճ տվյալների և տևողության շուրջ

Cathedral-ը պնդում է, որ միջադեպը տևել է տասներկու ժամից պակաս։ Anthropic-ը ասում է, որ հարձակման փորձը ձգվել է մի քանի օր, և Cathedral-ը երրորդ կողմի ծրագրաշարին անցել է միայն Anthropic-ի համակարգերը մի քանի օր ստուգելուց հետո, ըստ red team-ի մասնագետ Logan Graham-ի։ Anthropic-ը ասում է, որ Cathedral-ը երրորդ կողմի ծրագրաշարում գտել է երկու խոցելիություն, հաղորդել է միայն մեկի մասին, իսկ երկրորդը Anthropic-ն ինքնուրույն հայտնաբերել ու շտկել է։ Anthropic-ը մեղադրում է Cathedral-ին bug bounty-ի կանոնները խախտելու մեջ ոչ լրիվ բացահայտման պատճառով և ասում, որ երրորդ կողմի մատակարարներին թիրախավորելը և տվյալներ քաշելը դուրս են safe harbor դրույթներից։ Cathedral-ը պնդում է, որ հետևել է անվտանգության հետազոտության պրակտիկային։ OpenAI-ի նախկին աշխատակից Will Depue-ը պնդել է, որ Anthropic-ը թերագնահատում է միջադեպը. վստահելի աղբյուրները նրան ասել են, թե Cathedral-ը ստացել է լրիվ ադմինիստրատորական հասանելիություն Slack աշխատանքային տարածքին, կարող էր կարդալ բոլոր հաղորդագրությունները և մուտք գործել ցանկացած օգտատիրոջ հաշիվ։ Depue-ն ավելացրել է, որ Anthropic-ը և OpenAI-ն բոլոր հետազոտական գաղտնիքները պահում էին Slack-ում, իսկ ադմինիստրատորական API բանալիները ցրված էին համակարգերում։ Jacob Coxon-ը՝ Anthropic-ի աշխատակից, որը հեռացել է 2026 թվականի սեպտեմբերին, նախկինում քննադատել էր Anthropic-ին Slack-ի նման գրասենյակային ծրագրաշարում վտանգավոր AI հետազոտություններ անցկացնելու համար։ Graham-ը առարկել է՝ ասելով, որ Depue-ի աղբյուրները սխալ են, բայց հաստատել է, որ ոլորտը պետք է ամեն տարի նորից կառուցի իր անվտանգությունը։ Depue-ն պահանջել է մանրամասներ և մեղադրել է AI մրցավազքի արագությանը, որտեղ ղեկավարները առաջնահերթ են դարձնում արագությունը, ոչ թե անվտանգությունը։ Cognition-ի գլխավոր անվտանգության պատասխանատու Alex Stamos-ը The Washington Post-ին ասել է, որ գտածոները նշանակալի է համարում և որ ինտեգրված երրորդ կողմի հավելվածները լուրջ ոլորտային խնդիր են։

AI գործակալները և պաշտպանությունը

Ամիսներ շարունակ AI կիբերհարձակումների և իր պատահական անվտանգության միջադեպերի մասին զգուշացումներից հետո Anthropic-ն այժմ ինքն է հայտնվել թիրախում։ Graham-ը զգուշացրել է, որ հարձակվողներն արդեն շուրջօրյա աշխատացնում են AI գործակալներ՝ թիրախավորելով արտաքին կախվածությունները։ Նրա խոսքով՝ նույնիսկ ընթացիկ առաջատարից կեսից մինչև մի ամբողջ սերունդ հետ մնացող մոդելները բավականաչափ ունակ են, և ապագա հակառակորդները կունենան ավելի հզոր համակարգեր։ Graham-ի պատասխանը շարունակական ներքին ներթափանցման թեստավորումն է և ծրագրաշարի վերակառուցումը ֆորմալ ստուգմամբ, ինչը AI-ն այժմ տնտեսապես իրագործելի է դարձնում։ Նա գրել է, որ ընկերությունները հավանաբար ցանկանում են անընդհատ իրենք իրենց red team անել, քանի որ ընթացիկ մոդելները շատ ստեղծարար են։ Նա չի անդրադարձել, թե ինչպես Cathedral-ը կարողացավ այդքան խորը ներթափանցել, չնայած Anthropic-ը հասանելիություն ունի, թերևս, աշխարհի ամենահզոր AI մոդելներին կիբերպաշտպանության համար։

Աղբյուրներ՝ The Decoder