Altı büyük bankadan uyarı: AI alışveriş ajanları dolandırıcılık ve veri risklerini artırıyor

Altı büyük banka salı günü yayımlanan ortak bir raporda, çevrimiçi alışverişte AI ajanlarının kullanılmasının dolandırıcılık, sahtekârlık ve veri gizliliği ihlali risklerini artırabileceği uyarısında bulundu. Raporu NatWest, Bank of America, ING, Yeni Zelanda'dan ASB Bank, Capital One ve Commonwealth Bank of Australia imzaladı.

Rapor ne diyor

Raporda, „Tüketiciler AI'nın kendi çıkarları doğrultusunda hareket edip etmeyeceği konusunda net değil” ifadesi yer alıyor. „AI ajanının yanlış bir şey satın almasından ya da fazla harcamasından — daha kötüsü, paralarını dolandırıcılığa kaptırmasından endişe ediyorlar. Korunup korunmayacaklarını ve bir sorun çıktığında kime başvuracaklarını bilmiyorlar.”

Riskler nereden geliyor

Rapor, AI ajanının müşterinin kart bilgilerini isteyip doğrudan sitelere girmesi ya da kullanıcıları koruması daha zayıf ödeme yöntemlerine yönlendirmesi gibi senaryolara dikkat çekiyor. Ajan, daha yüksek komisyon veya daha düşük token maliyeti gibi teşvikler nedeniyle belirli ürünleri ya da ödeme yöntemlerini müşteri için en iyisi olduğu için değil, kendi çıkarına olduğu için öne çıkarabilir. Bir veri ihlali ise hem alışveriş yapanların hem de satıcıların hassas bilgilerini riske atar.

Neden şimdi

OpenAI, Anthropic, Google ve Meta gibi teknoloji şirketleri AI sohbet botlarını alışveriş aracı olarak tanıtırken perakendeciler de bu botların önerilerini etkilemek için yarışıyor. İngiliz perakendeci John Lewis, eylül ayında AI ajanlarından gelen aramaların bir yıl önceki %0.3 seviyesinden %2.5'e çıktığını açıkladı. Bankalara göre müşteriler yeni teknolojiye hevesli, ancak teknoloji sektör standartlarından ve tüketici korumalarından daha hızlı ilerliyor.

Bankaların önerileri

Bankalar politika yapıcılarla bir dizi öneriyi görüşmeyi planlıyor: bir işlemde AI ajanının yer aldığının açıklanması zorunlu olsun, ajanların kararlarını nasıl verdiği konusunda şeffaflık artsın ve müşteri verileri ek güvencelerle korunsun. Rapora göre tüketiciler ve satıcılar hangi AI destekli e-ticaret hizmetini kullanacaklarını serbestçe seçebilmeli ve farklı sistemler birbiriyle uyumlu çalışmalı.