Վեց խոշոր բանկ զգուշացնում են՝ AI գնումների գործակալները մեծացնում են խարդախության ռիսկերը

Վեց խոշոր բանկ երեքշաբթի հրապարակված համատեղ զեկույցում զգուշացրել են, որ առցանց գնումների համար AI գործակալների օգտագործումը կարող է մեծացնել խարդախության, ֆրոդի և անձնական տվյալների գաղտնիության խախտման ռիսկերը։ Զեկույցը ստորագրել են NatWest-ը, Bank of America-ն, ING-ը, Նոր Զելանդիայի ASB Bank-ը, Capital One-ը և Commonwealth Bank of Australia-ն։

Ինչ է ասվում զեկույցում

«Սպառողների համար պարզ չէ՝ արդյոք AI-ը գործելու է իրենց շահերից ելնելով», — նշված է զեկույցում։ «Նրանք մտահոգված են, որ AI գործակալը կարող է սխալ ապրանք գնել կամ չափից շատ ծախսել, կամ նույնիսկ ավելի վատ՝ իրենց գումարը կորցնել խարդախների պատճառով։ Նրանք վստահ չեն՝ կպաշտպանվե՞ն, և ում պետք է դիմեն, եթե ինչ-որ բան սխալ ընթանա»։

Որտեղից են գալիս ռիսկերը

Զեկույցը նկարագրում է դեպքեր, երբ AI գործակալը հաճախորդից պահանջում է քարտի տվյալներ և ինքն է մուտքագրում դրանք կայքերում, կամ օգտատիրոջն ուղղորդում ավելի թույլ պաշտպանություն ունեցող վճարման եղանակներին։ Գործակալը կարող է նաև նախապատվություն տալ որոշակի ապրանքների կամ վճարման եղանակների՝ ավելի բարձր միջնորդավճարի կամ ավելի էժան token ծախսի պատճառով, այլ ոչ թե այն պատճառով, որ դա լավագույնն է հաճախորդի համար։ Տվյալների արտահոսքի դեպքում վտանգի տակ կհայտնվեն և՛ գնորդների, և՛ վաճառողների զգայուն տվյալները։

Ինչու հենց հիմա

Տեխնոլոգիական ընկերությունները՝ OpenAI-ն, Anthropic-ը, Google-ը և Meta-ն, AI չաթբոտները գնումների գործիք են ներկայացնում, իսկ մանրածախ վաճառողները մրցում են դրանց առաջարկությունների վրա ազդելու համար։ Բրիտանական John Lewis ցանցը սեպտեմբերին հայտարարել է, որ AI գործակալներից եկող որոնումների մասնաբաժինը 2.5%-ի է հասել՝ մեկ տարի առաջվա 0.3%-ի դիմաց։ Բանկերի գնահատմամբ՝ հաճախորդները ոգևորված են նոր տեխնոլոգիայով, սակայն այն առաջ է անցնում ոլորտային ստանդարտներից ու սպառողների պաշտպանության մեխանիզմներից։

Բանկերի առաջարկները

Բանկերը մտադիր են քաղաքականություն մշակողների հետ քննարկել մի շարք առաջարկներ՝ գործարքում AI գործակալի ներգրավվածության պարտադիր բացահայտում, ավելի մեծ թափանցիկություն այն հարցում, թե ինչպես են գործակալները որոշումներ կայացնում, և հաճախորդների տվյալների լրացուցիչ պաշտպանություն։ Ըստ զեկույցի՝ սպառողներն ու վաճառողները պետք է ազատ լինեն ընտրելու, թե որ AI ծառայություններն օգտագործել, իսկ տարբեր համակարգերը պետք է լինեն փոխգործունակ։