Վերադառնալ

Հետազոտողը AI մատակարարման շղթայում 2 միլիոն թվային թակարդ է տեղադրել և գաղտնիության խախտումներ հայտնաբերել
SiTech AI Team3 րոպե ընթերցում

Հետազոտողը AI մատակարարման շղթայում 2 միլիոն թվային թակարդ է տեղադրել և գաղտնիության խախտումներ հայտնաբերել

Հետազոտողը AI հարցումների մոտ երկու միլիոնի մեջ յուրահատուկ գաղտնիքներ է տեղադրել և AI ծառայություններում ու մոդել մատակարարներում հայտնաբերել խախտումներ, հարցումների գողություն, վերավաճառողների գրանցում և գաղտնիության դրոշակների խախտումներ։

Հետազոտող HD Moore-ը AI ծառայությունների լայն ցանցով ուղարկված AI հարցումների մեջ տեղադրել է գրեթե երկու միլիոն յուրահատուկ, հետևելի գաղտնիք և հայտնաբերել անվտանգության խախտումներ, հարցումների գողություն և հաճախորդների տվյալները պաշտպանելու լայնածավալ ձախողումներ։ Dragos անվտանգության ընկերության գլխավոր հետազոտական պաշտոնյա Moore-ը հինգշաբթի գրել է այդ արդյունքների մասին։

Ինչպես է աշխատել փորձը

Moore-ը հավաքել է դատարկ հաշիվներին կապված AWS մուտքի բանալիներ, SSH նման ծառայությունների գաղտնաբառեր, ինչպես նաև յուրահատուկ URL-ներ, DNS անուններ և մասնավոր git պահոցների հղումներ։ Ոչ մի գաղտնիք նախկինում չի օգտագործվել, և նա վերահսկել է դրանք օգտագործող հարցումները ստացող ենթակառուցվածքը։ Յուրաքանչյուր գաղտնիք նա տեղադրել է հենց մեկ հարցման մեջ, որն ուղարկել է մեկ մատակարարի։

Շատ AI հավելվածներ օգտագործում են OpenRouter-ի կամ Vercel-ի նման ծառայություններ որպես բրոքերներ, որոնք անվանում են նաև AI երթուղիչներ կամ դարպասներ և որոնք հարցումներն ուղղորդում են ինֆերենսի շարժիչներ։ Հարցումները փոխանցման ընթացքում գաղտնագրված են, բայց վերծանվում են յուրաքանչյուր հանգույցում, և յուրաքանչյուր կողմ, ամենայն հավանականությամբ, գրանցում և պահում է դրանք իր քաղաքականության համաձայն։

Խախտումներ, վերավաճառողներ և գաղտնիության դրոշակներ

Առնվազն երեք AI մատակարարի համակարգեր կոտրվել են հարցումները հափշտակած հարձակվողների կողմից։ Մեկ հարձակվողը վերաօգտագործել է «մի քանի հարյուր» AWS բանալի, և ուշ հոկտեմբերի որոշ ժամանակահատվածներում ուղարկված յուրաքանչյուր հարցում գողացվել է։ Որոշ բանալիներ գալիս էին մինչև մոդելի գործարկումը մերժված հարցումներից, ինչը նշանակում է պատճենում մատակարարի դիմացի դռան մոտ։

Մի քանի վերավաճառողներ գրանցել են հարցումները և դրանք փոխանցել հավատարմագրերը օգտագործած մարդկանց։ Moore-ը նրանց բացահայտել է նույն մոդելին տարբեր վաճառողների միջոցով հարցումներ ուղարկելով։ Որոշ մատակարարներ նաև չեն պահպանել գաղտնիության դրոշակները, ինչպիսիք են Zero Data Retention կամ «no data collection»։

Երկու այլ խախտումների դեպքում գողացված որոշ հարցումներ նշված էին Zero Data Retention։ Հարձակվողները ստուգել են բանալիները, երբեմն ժամերի ընթացքում, որոնել են S3 զամբյուղներում, գաղտնիքների մենեջերներում և պարամետրերի պահոցներում, փորձել են միացնել AWS Bedrock-ում հոսթինգված մոդելներ և ավելացրել իրենց IAM օգտատերերը։ Գողացված բանալիները AWS API կանչերում օգտագործվել են «տասնյակ հազարավոր» անգամ։

URL-ների սքրեյփինգ և OpenRouter-ի թարմացում

Չինական AI լաբորատորիան հուլիսից հոկտեմբեր ընկած ժամանակահատվածում իր մոդելներին ուղարկված հարցումների կեսից ավելիից վերցրել է գաղտնի URL-ներ, այդ թվում՝ հարցումների մոտավորապես երկու երրորդը, որոնք նշված էին «no data collection» կամ Zero Data Retention։ Սքրեյփերն սովորաբար հայտնվում էր երկու կամ երեք օր անց։ Մի քանի ԱՄՆ հոսթինգ մատակարարներ վերավաճառում են այս լաբորատորիայի մոդելները, և դրանց ուղարկված հարցումները ակտիվացրել են նույն սքրեյփերը։

Ավելի ուշ git-ծրագիրը փորձել է կլոնավորել հարցումներում հիշատակված մասնավոր պահոցները, բայց միայն այս լաբորատորիայի մոդելներն օգտագործող հարցումների համար։ Մեկ ԱՄՆ հոսթինգ մատակարար գաղտնի URL-ը սկանավորել է մեկ ինֆերենս կանչից ավելի քան երկու ամիս անց, իսկ մյուսը վերադարձել է URL-ների համար յուրաքանչյուր հարցումից օրեր անց։

OpenRouter-ը հաճախորդներին տեղեկացրել է, որ որոշ հարցումներ կարող են կարդացված լինել՝ հղում անելով հետազոտությանը։ Հնարավոր արտահոսքը վերաբերում էր MiniMax-ին ուղարկված հարցումներին, որը Չինաստանում գտնվող մոդել մատակարար է, ուղղակիորեն կամ AtlasCloud, Novita և StreamLake վերավաճառողների միջոցով։ OpenRouter-ը հեռացրել է «Zero Data Retention» պիտակը MiniMax մոդելների endpoint-ներից։

Ինչ կարող են անել օգտատերերը

Արտահոսքը կանխելու ամենաարդյունավետ միջոցը մոդելները տեղում հյուրընկալելն է, թեև դա թանկ է։ Հակառակ դեպքում Moore-ը խորհուրդ է տալիս ծառայությունը ստանալ ուղղակիորեն առաջին մակարդակի մատակարարից՝ մեկ պայմանագրով և գաղտնիության քաղաքականությամբ։ Դա չի երաշխավորում արտահոսքի բացակայությունը, բայց նվազեցնում է հավանականությունը։ Օգտատերերը նաև պետք է խուսափեն լռելյայն մատակարարների կամ վերավաճառողների խմբերից և իրենք ընտրեն վերին հոսքի մատակարարները։

Աղբյուրներ՝ Ars Technica · Techmeme

SiTech

SiTech — AI-ով հզորացված վեբ մշակում

Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։