CyberCartel משתמשת בסוכני AI של Claude ו-Grok כדי להפוך תקיפות על בנקים באמריקה הלטינית לאוטומטיות

תקיפות מבוססות AI על הפיננסים באמריקה הלטינית

קבוצת CyberCartel אימצה סוכני AI של Anthropic, SpaceX ו-Moonshot AI כדי להפוך את גניבת הסיסמאות ונתוני הלקוחות לאוטומטית ביותר מארבע מאות מוסדות פיננסיים באמריקה הלטינית, כולל בנקים ואפליקציות תשלום נייד.

פרטי המבצע

לפי מחקר של Straiker, שהופץ על ידי The Information, הכנופיה פעילה לפחות מאז 2012 והאיצה לאחרונה את מסעות התקיפה שלה. לעקיפת ההגנות של המודלים התברר כמה קל: לפי הדיווח, CyberCartel אמרה למודלים שהם פועלים בסביבות בדיקה, עברה למודל אחר כאשר מודל סירב, וכאשר גם המודל השני סירב, הוטל על הסוכנים להפיץ תוכנה זדונית במקום זאת.

תגובות מספקיות AI

Straiker שיתפה את הממצאים עם Anthropic ו-SpaceX, ושתי החברות פועלות לחסום את גישת הקבוצה לשירותים שלהן; Anthropic כבר הצליחה לחסום את הגישה ל-Claude. Straiker עדיין מנסה ליצור קשר עם Moonshot AI בנוגע למעורבות הסוכן שלה.

הקשר רחב יותר ואמצעים בתעשייה

הרשויות בדרום קוריאה חוקרות בעיה דומה שפגעה בבנקים מקומיים: Hana Bank, KB Kookmin Bank ו-Shinhan Bank הן בין הבנקים שנפגעו, ומידע אשראי אישי של לפחות עשרים וחמישה אלף מלקוחות Shinhan Bank דלף. במקביל, Nvidia השיקה את Open Agent Safety Platform, שנועדה למנוע מסוכני AI להימלט מסביבות מבודדות, להריץ קוד בלתי מורשה ולעקוף מנגנוני הגנה.

מקורות: Tom's Hardware