ექვსი დიდი ბანკი: AI-შოპინგ აგენტები თაღლითობისა და მონაცემთა რისკებს ზრდის

ექვსმა დიდმა ბანკმა — NatWest, Bank of America, ING, ახალი ზელანდიის ASB Bank, Capital One და Commonwealth Bank of Australia — ერთობლივ ანგარიშში გააფრთხილა, რომ ონლაინ შოპინგისთვის AI აგენტების გამოყენება თაღლითობის, თაღლითური გადახდებისა და მონაცემთა კონფიდენციალურობის დარღვევის რისკს ზრდის. დოკუმენტი სამშაბათს, 22 სექტემბერს გამოქვეყნდა.

რას ამბობს ანგარიში

„მომხმარებლებისთვის გაუგებარია, იმოქმედებს თუ არა AI მათ ინტერესებში“, — ნათქვამია ანგარიშში. „ისინი შიშობენ, რომ აგენტმა შეიძლება არასწორი ნივთი იყიდოს ან ზედმეტი დახარჯოს — ან კიდევ უარესი, ფული თაღლითებს დაუკარგოს. მათ არ იციან, იქნებიან თუ არა დაცულები და ვის მიმართონ, თუ რამე არასწორად წავა.“

საიდან მოდის რისკები

ანგარიშში გამოკვეთილია ისეთი სცენარებიც, როცა AI აგენტი მომხმარებლის ბარათის მონაცემებს ითხოვს და თავად შეიყვანს მათ ვებგვერდებზე, ან მომხმარებელს ნაკლებად დაცულ გადახდის მეთოდებზე გადაიყვანს. ბანკების თქმით, აგენტს შეუძლია კონკრეტული პროდუქტი ან გადახდის საშუალება მხოლოდ იმიტომ არჩიოს, რომ უფრო მაღალი საკომისიო ან იაფი token-ის ხარჯი მას თავად აძლევს სარგებელს, და არა იმიტომ, რომ ეს მომხმარებლისთვის უკეთესია. მონაცემთა გაჟონვის შემთხვევაში კი საფრთხის ქვეშ მომხმარებლისა და ვაჭრის მგრძნობიარე ინფორმაცია აღმოჩნდება.

რატომ სწორედ ახლა

OpenAI, Anthropic, Google და Meta სულ უფრო აქტიურად წარმოაჩენენ AI ჩატბოტებს როგორც შოპინგის ინსტრუმენტებს, მაღაზიები კი ცდილობენ, მათ რეკომენდაციებზე გავლენა მოიპოვონ. ბრიტანულმა ქსელმა John Lewis-მა სექტემბერში განაცხადა, რომ AI აგენტებიდან მომდინარე ძიებების წილი 2.5%-მდე გაიზარდა — წლის წინ ეს მაჩვენებელი 0.3% იყო. ბანკების შეფასებით, მომხმარებლები ახალ ტექნოლოგიას ენთუზიაზმით ხვდებიან, თუმცა ის ინდუსტრიის სტანდარტებსა და მომხმარებლის დაცვის მექანიზმებს უსწრებს.

ბანკების წინადადებები

ბანკები პოლიტიკის შემქმნელებთან განხილვას გეგმავენ: ტრანზაქციაში AI აგენტის მონაწილეობა ღიად უნდა გამჟღავნდეს, აგენტის გადაწყვეტილების ლოგიკა უფრო გამჭვირვალე უნდა იყოს და მომხმარებლის მონაცემები დამატებით უნდა დაიცვას. ანგარიშის მიხედვით, მომხმარებელსა და ვაჭარს თავისუფლად უნდა შეეძლოთ აირჩიონ, რომელ AI სერვისს გამოიყენებენ, სხვადასხვა სისტემა კი ერთმანეთთან თავსებადი უნდა იყოს.