Шість великих банків: AI-агенти для покупок підвищують ризики шахрайства та витоку даних

Шість великих банків у спільній доповіді, опублікованій у вівторок, попередили, що використання AI-агентів для онлайн-покупок може підвищити ризики шахрайства, махінацій і витоку персональних даних. Документ підписали NatWest, Bank of America, ING, новозеландський ASB Bank, Capital One і Commonwealth Bank of Australia.

Що йдеться у доповіді

«Споживачам незрозуміло, чи діятиме AI в їхніх інтересах», — зазначається в документі. «Вони побоюються, що AI-агент купить не те або витратить зайве — або, що гірше, втратить їхні гроші через шахраїв. Вони не впевнені, чи будуть захищені й до кого звертатися, якщо щось піде не так».

Звідки беруться ризики

У доповіді наведено сценарії, коли AI-агент запитує дані картки клієнта й самостійно вводить їх на сайтах, або спрямовує користувача до платіжних методів із слабшим захистом. Агент також може віддавати перевагу окремим товарам чи способам оплати через винагороди — вищі комісії чи дешевші витрати на token — а не тому, що це найкраще для клієнта. Витік даних наразив би на ризик конфіденційну інформацію і покупців, і продавців.

Чому саме зараз

Технологічні компанії, зокрема OpenAI, Anthropic, Google і Meta, просувають AI-чатботи як інструменти для покупок, а рітейлери змагаються за вплив на їхні рекомендації. Британська мережа John Lewis повідомила у вересні, що частка пошукових запитів, які походять від AI-агентів, зросла до 2.5% проти 0.3% роком раніше. Банки кажуть, що клієнти з ентузіазмом ставляться до нової технології, але вона випереджає галузеві стандарти та механізми захисту споживачів.

Пропозиції банків

Банки планують обговорити з регуляторами низку пропозицій: обов'язкове розкриття участі AI-агента в транзакції, більшу прозорість того, як агент ухвалює рішення, і додаткові гарантії захисту даних клієнтів. Споживачі та продавці також мають вільно обирати, якими AI-сервісами для торгівлі користуватися, а різні системи повинні бути сумісними між собою.