JPMorgan Chase חסמה גישה של סוכני AI חיצוניים לחשבונות לקוחות פרטיים

JPMorgan Chase מנתה גבול לסוכני AI

JPMorgan Chase חסמה פעולות של סוכני AI חיצוניים על חשבונות לקוחות פרטיים, הכרזו מנכ"ל הבנק ג'יימי דיימון בשיחת הכנסות לרבעון השלישי של הבנק. "לנו לא נאפשר לאף סוכן חיצוני להיכנס לתוך החברה, כיוון שזה מסוכן מאוד הן עבור הלקוחות והן עבור JPMorgan", אמר דיימון לאנליסטים. הוא הזהיר שסוכנים אוטונומיים עלולים ליצור סיכונים חמורים עבור הלקוחות והבנק והוסיף: "סוכנים אוטונומיים לא רוצים, ועלולים להיות אלפים."

הבנק אישר באותו יום רביעי שהוא כבר חוסם את סוכני ה-AI החיצוניים מלפעול על חשבונות לקוחות פרטיים. דוברת הבנק אמרה ל-CNBC שהגנה על הלקוחות היא העדיפות העליונה של הבנק, ובגלל שזה לא בטוח, JPMorgan לא מאפשרת לצדדים שלישיים לקבל גישה לחשבונות באמצעות איסוף נתוני בנקאות של לקוחות וכניסה למערכת בשמם.

במקרה הטוב ביותר, מצב קריאה בלבד

במסגרת המדיניות הזו, לסוכני AI כמו Muse תהיה גישה רק לחלק מהנתונים הלקוחותיים מחשבונות JPMorgan Chase ובמצב קריאה בלבד. הם לא יוכלו לשלוח כסף או לשלם מסים. עמדה זו סותרת את המאמץ הרחב בתעשייה הטכנולוגית להנגיש סוכנים אוטונומיים שפועלים בשמם של אנשים. Meta הציגה בתחילת ספטמבר את מה שכונה "סוכן AI אישי ראשון", מערכת שיכולה לגלוש, למלא טפסים, לשוחט בשם המשתמש ולבצע רכישות, על כיסוי חינם של נזקים, אובדנים, הורדת מחירים ועוד עד 1,000 דולר לכל תביעה.

זהירות ברחבי התעשייה

JPMorgan אינה היחידה שמגבירה זהירות. גם Amazon מגבילה סוכני AI לא מאושרים מלבצע קניות וגלישה באתר שלה בשם המשתמשים, ומזהירה שהמשך גישה של סוכן AI לא מאושר מפר את תנאי השימוש שלה. המגבלות נוצרות על רקע הראיות ההולכת וגוברת לבעיות אבטחה הקשורות ל-AI. סוכני AI כבר היו מעורבים במאות תקריות פריצה, ביניהן בפריצת השרתים של Hugging Face ביולי. ל-JPMorgan עצמה היה עסק עם מתקפת האקרים בשנה שעברה, כאשר פריצה ל-SitusAMC, ספקית לבנקים בוול סטריט, חשפה את הנתונים של לקוחות כמה מוסדות פיננסיים. בסוף ספטמבר, מקורות דיווחו ל-Axios שחברות AI מובילות חוקרות עשרות אלפי תקריות אבטחה, בהמורה על אלה שפורסמו בתקשורת.

מקורות: Cybernews