Հաքերները ChatGPT-ի ու Gemini-ի պատասխանները թունավորում են կեղծ աջակցության համարներով
Անվտանգության հետազոտողները հայտնաբերել են AI-ի պատասխանների թունավորման քարոզարշավներ 374 ընկերության դեմ. ChatGPT-ը, Gemini-ն ու Google AI Overview-ը կեղծ աջակցության համարներն ու ֆիշինգային էջերը ներկայացնում են որպես վստահելի տեղեկություն:
Անվտանգության հետազոտողները պարզել են, որ հարձակվողները ChatGPT-ի, Gemini-ի և Google AI Overview-ի պատասխանները լցնում են կեղծ կոնտակտային տվյալներով և օգտատերերին ուղղորդում խարդախ հեռախոսահամարներ ու ֆիշինգային էջեր: Արդյունքները Medium-ում հրապարակել է Ariel Simon-ը՝ AI-ի ապատեղեկատվության մասին շարքի առաջին մասում:
Ինչ են հայտնաբերել հետազոտողները
Ariel Simon-ն ու չորս գործընկերները կառուցել են համակարգ, որը վերլուծում է երեք AI համակարգերի պատասխաններն ու աղբյուրները և գրանցում կեղծ տվյալների մեջբերման դեպքերը: Fortune 100 ընկերությունների, բանկերի ու ավիաընկերությունների վրա ստուգելիս թիմը հայտնաբերել է քարոզարշավներ 374 ընկերության դեմ, այդ թվում՝ Delta, Lufthansa, Emirates, Bank of America, Chase, Airbnb և TripAdvisor ընկերությունների վրա: Հայտնաբերվել են տասնյակ հազարավոր վնասակար էջեր: Գրառման մեջ վկայակոչվում է նաև Exploding Topics-ի հետազոտությունը:
Ինչպես են աշխատում հարձակումները
Նյութերը կառուցված են GEO (Generative Engine Optimization) եղանակով: Գրառումները կրկնում են կեղծ համարը և ավելացնում «զանգահարեք հիմա» կամ «24/7» արտահայտություններ: Թվանշանները գրվում են նաև բացատներով, կետերով, էմոջիներով ու Unicode նշաններով. սպամի ֆիլտրերը համարը չեն ճանաչում, իսկ մոդելը կարդում է այն որպես նույն արժեք:
Նույն տեքստը պատճենվում է սոցիալական ցանցերում, համալսարանների PDF-ներում ու Google Sites-ի նման հարթակներում: Բովանդակությունը թիրախավորում է խուճապի պահերը՝ գումարի վերադարձ, չեղարկված չվերթներ, արգելափակված հաշիվներ, որ օգտատերը շտապ զանգահարի՝ պաշտոնական կայքը ստուգելու փոխարեն:
Հեռացումը չի հասցնում
Քարոզարշավները ավտոմատացված են. մեկ ընկերության դեմ օրական հազարավոր էջեր են ստեղծվում: Մեկ էջի հեռացումը տևում է ժամեր կամ օրեր, մինչդեռ հազարավոր նորեր են ի հայտ գալիս, իսկ archive.org-ի պատճենները մնում են ինդեքսում: American Airlines-ի դեմ LeetCode-ի գրառումները 24 ժամվա ընթացքում զբաղեցրել են Google-ի արդյունքների ավելի քան 10 էջ:
Ընկերությունների և մատակարարների արձագանքը
Հետազոտողները հարձակումների մասին տեղեկացրել են ընկերություններին bug bounty-ի, խարդախության և անվտանգության ուղիներով: Ընկերությունների մեծ մասը տեղյակ չէր մասշտաբից, ոմանք խնդիրը համարեցին շրջանակից դուրս: Google-ը դեպքը դասեց պարգևատրման ծրագրից դուրս: OpenAI-ը փակեց զեկույցը որպես չվերարտադրվող՝ պահանջելով օգտատերերի վրա ապացուցված ազդեցություն: Հետազոտողների կարծիքով՝ նման քարոզարշավները ընկերություններին արժեն եկամուտ, վստահություն և իրավական ծախսեր:
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։