AI-բոտերը խաբեբաների ժամանակ են լինում և հավաքում են խաբույքի տվյալներ

AI-ն՝ «զոհերը» բռնում է խաբեբաներին

Երկու տարի ընթացքում ավստրալական ընկերությունը Apate-ն կառուցել է համակարգ, որը հեռախոսային զանգերը ուղղում է AI-բոտերին: Բոտերը այնքան վարժված են, որ երկարացնում են զրույցը և չեն տալիս խաբույքը տեղի ունենա: Հիմնադիրը և գործադիր տնօրենը Դալի Քաֆարին հայտնում է, որ նպատակն է խաբեբաներին բավարար հույս տալ մնալու գծում, մինչք հարթակը տեղեկություն հավաքում է խաբույքի մասին:

Ըստ Apate-ի՝ դրա հարթակն օգտագործում են բանկերը, և հեռահաղորդակցության ընկերությունները աջակցում են դրան; այն ունի մոտ 350 000 բոտ: Բոտերը պատասխանում են զանգերին, միանում են խաբույքի զրույցներին և պատասխանում են տեքստային հաղորդագրություններին: Ընկերությունը հայտնում է, որ 250 000-ից ավելի իրական ժամանակում ստացված խաբույքի տվյալ է հավաքել, այդ թվում՝ խաբույքի URL-եր, money mule հաշիվներ և բանկային մանրամասներ:

Իդեալական զոհի փորձարկում

Ըստ Apate-ի՝ բոտերն ունեն տարբեր մարդկային ունակություններ, լեզվական հմտություններ և պրոֆիլներ, որպեսզի խաբեբաները ավելի քիչ են նույնականացնեն AI-ի հետ: Որոշ կերպարների մոտ կա WhatsApp, որոշների մոտ՝ ոչ: Որոշները պատասխանում են զանգին, որոշները մուկ են անում և ասում են, որ կզանգեն ավելի ուշ:

Ցուցադրման ժամանակ, որտեղ WIRED-ը խաբեբանի դեր է կատարել, AI-կերպարները հաստատուն թերահավատ էին, բայց զրույցը երկարացնելու համար խնդիրների մեջ թողնում էին տեղի ունեցողը: Ժամանակը թեստի մեջ բնական էր, որտեղ ընկեր Լյուսին և ֆինանսական խորհրդատու Միկին մասնակցեցին: Վեց րոպե անց թեստի մասնակցողները այնուամենայնիվ չկարողացան համոզել AI-ն, որ նրանք ներդրում կատարեն կրիպտովալյուտային հնարավորությունում: Քաֆարին ասում է, որ Apate-ի զանգերը սովորաբար երկարանում են երկու ժամից ավելի:

Հոնիպոթները ավելի իրական դառնում են

Վնասակար հարձակվողները տարեկան մլնավոր հաղորդագրություններ և զանգեր են ուղարկում, իսկ որոշ գործողությունները ղեկավարում են արդյունաբերական մասշտաբի խաբույքի կայքեր: Հետազոտողները ասում են, որ AI-ն կարող է նպաստել խաբույքի դեմ պայքարի նոր դարաշրջանին՝ ոստիկանության, սոցիալական մեդիայի ընկերությունների, բանկերի և այլ արդյունաբերությունների միջև տեղեկությունների ավելի լավ կիսմամբ, ինչպես նաև AI-ի վրա հիմնված մոնիտորինգով և տվյալների վերլուծությամբ:

Պաշտպանները նաև օգտագործում են կեղծ վիրտուալ մեքենաներ՝ հոնիպոթներ, որպեսզի հակերի համար ձգեն, նրանց ժամանակը կորցնեն և նրանց տեխնիկաները ուսումնասիրեն: ETH Zurich-ի դոկտորանտ հետազոտող Մարկ Վերոն ասում է, որ բաց կոդով հոնիպոթների մատա�արկողները ավելացնում են մեծ լեզվական մոդելներ, որպեսզի համակարգերը ավելի իրական թվան: Վերջին հետազոտության մեջ Վերոն և գործընկերները հայտնաբերեցին, որ LLM-ի վրա հիմնված հոնիպոթը ստիպում էր AI-գործակալներին զգալիորեն ավելի երկար երկարաձգել հարձակումը, և հոնիպոթի հայտնաբերման ցուցանիշը շատ ցածր էր:

Նյութերը: Wired Ai