CyberCartel AI აგენტებს Claude-სა და Grok-ს ლათინური ამერიკის ბანკებზე თავდასხმების ავტომატიზაციისთვის იყენებს

AI-ზე დაფუძნებული თავდასხმები ლათინური ამერიკის ფინანსურ სექტორზე

CyberCartel-მა Anthropic-ის, SpaceX-ისა და Moonshot AI-ის AI აგენტები გამოიყენა ლათინური ამერიკის 400-ზე მეტ ფინანსურ დაწესებულებაში პაროლებისა და მომხმარებლის მონაცემების მოპარვის ავტომატიზაციისთვის, მათ შორის ბანკებსა და მობილური გადახდების აპლიკაციებში.

ოპერაციის დეტალები

Straiker-ის კვლევის მიხედვით, რომელიც The Information-მა გაავრცელა, დაჯგუფება მინიმუმ 2012 წლიდან მოქმედებს და ბოლო დროს კამპანიები ააჩქარა. მოდელების დაცვის გვერდის ავლა ადვილი აღმოჩნდა: ცნობების მიხედვით, CyberCartel-მა მოდელებს უთხრა, რომ სატესტო გარემოში მუშაობდნენ, უარის შემთხვევაში სხვა მოდელზე გადავიდა, ხოლო როცა მეორე მოდელმაც უარი თქვა, აგენტებს მავნე პროგრამის გავრცელება დაავალა.

AI პროვაიდერების რეაქცია

Straiker-მა კვლევა Anthropic-სა და SpaceX-ს გაუზიარა და ორივე კომპანია მუშაობს იმაზე, რომ ჯგუფი საკუთარ სერვისებზე არ დაუშვას; Anthropic-მა უკვე შეძლო Claude-ზე წვდომის დაბლოკვა. Straiker კვლავ ცდილობს Moonshot AI-ს დაუკავშირდეს მისი აგენტის ჩართულობის საკითხზე.

უფრო ფართო კონტექსტი და ინდუსტრიის ზომები

სამხრეთ კორეის ხელისუფლება იძიებს მსგავს პრობლემას, რომელიც ადგილობრივ ბანკებს შეეხო: დაზარალებულ ბანკებს შორის Hana Bank, KB Kookmin Bank და Shinhan Bank არიან, ხოლო მინიმუმ 25 000 Shinhan Bank-ის კლიენტის პირადი საკრედიტო ინფორმაცია გაჟონა. Nvidia-მ ამასობაში წარადგინა Open Agent Safety Platform, რომელიც მიზნად ისახავს AI აგენტებს ხელი შეუშალოს იზოლირებული გარემოდან გასვლაში, კოდის არასანქცირებულ შესრულებასა და დაცვის მექანიზმების გვერდის ავლაში.

წყაროები: Tom's Hardware