שישה בנקים גדולים מזהירים: סוכני קניות מבוססי AI מגבירים סיכוני הונאה ופרטיות

שישה בנקים גדולים הזהירו בדוח משותף שפורסם ביום שלישי כי שימוש בסוכני AI לקניות מקוונות עלול להגביר את הסיכון להונאות, למעשי מרמה ולפגיעה בפרטיות הנתונים. על הדוח חתומים NatWest, Bank of America, ING,‏ ASB Bank מניו זילנד, Capital One ו-Commonwealth Bank of Australia.

מה נכתב בדוח

״לצרכנים לא ברור אם ה-AI יפעל למענם״, נאמר בדוח. ״הם חוששים שסוכן ה-AI יקנה את הדבר הלא נכון או יבזבז יותר מדי — או גרוע מכך, יאבד את כספם להונאות ולמרמה. הם אינם בטוחים אם יהיו מוגנים ולמי יפנו אם משהו ישתבש״.

מאין מגיעים הסיכונים

הדוח מתאר תרחישים שבהם סוכן AI מבקש את פרטי הכרטיס של הלקוח ומזין אותם בעצמו באתרים, או מפנה משתמשים לאמצעי תשלום שההגנה עליהם חלשה יותר. סוכן עשוי גם להעדיף מוצרים או אמצעי תשלום מסוימים בגלל תמריצים כמו עמלות גבוהות יותר או עלות token נמוכה — ולא משום שהם הטובים ביותר עבור הלקוח. דליפת נתונים, מנגד, תעמיד בסיכון מידע רגיש של קונים וסוחרים כאחד.

מדוע דווקא עכשיו

חברות טכנולוגיה ובהן OpenAI, Anthropic, Google ו-Meta מקדמות צ׳אטבוטים ככלי קנייה, וקמעונאים מתחרים על ההשפעה על ההמלצות שלהם. רשת הקמעונאות הבריטית John Lewis מסרה בספטמבר כי שיעור החיפושים שמקורם בסוכני AI עלה ל-2.5% לעומת 0.3% שנה קודם לכן. לדברי הבנקים, הלקוחות נלהבים מהטכנולוגיה ומבקשים לאפשר אותה, אך היא מתקדמת מהר יותר מתקני התעשייה וממנגנוני ההגנה על הצרכן.

ההצעות של הבנקים

הבנקים מתכוונים לדון עם קובעי המדיניות בשורת הצעות: חובה לגלות כשסוכן AI מעורב בעסקה, שקיפות רבה יותר לגבי האופן שבו הסוכנים מקבלים החלטות, והגנות נוספות על נתוני הלקוחות. לפי הדוח, צרכנים וסוחרים צריכים גם להיות חופשיים לבחור באילו שירותי מסחר מבוססי AI להשתמש, והמערכות השונות צריכות להיות תואמות זו לזו.