CyberCartel, Latin Amerika bankalarına yönelik saldırıları Claude ve Grok AI ajanlarıyla otomatikleştiriyor

Latin Amerika Finansına Yapay Zeka Destekli Saldırılar

CyberCartel grubu, Latin Amerika'da bankalar ve mobil ödeme uygulamaları dahil olmak üzere dört yüzden fazla finans kuruluşunda parola ve müşteri verisi hırsızlığını otomatikleştirmek için Anthropic, SpaceX ve Moonshot AI'dan yapay zeka ajanlarını kullanmaya başladı.

Operasyonun Ayrıntıları

The Information tarafından paylaşılan Straiker araştırmasına göre çete en az 2012'den beri aktif ve son zamanlarda kampanyalarını hızlandırdı. Modellerin korumalarını aşmak şaşırtıcı derecede kolay çıktı: iddiaya göre CyberCartel modellere test ortamlarında çalıştıklarını söyledi, bir model reddettiğinde başka bir modele geçti, ikinci model de reddettiğinde ise ajanlara kötü amaçlı yazılım yayma görevi verildi.

Yapay Zeka Sağlayıcılarından Yanıtlar

Straiker bulgularını Anthropic ve SpaceX ile paylaştı ve iki şirket de grubun kendi hizmetlerine erişimini engellemek için çalışıyor; Anthropic, Claude'a erişimi zaten engellemeyi başardı. Straiker ise ajanının olaya karışmasıyla ilgili olarak Moonshot AI ile hâlâ iletişim kurmaya çalışıyor.

Daha Geniş Bağlam ve Sektör Önlemleri

Güney Koreli yetkililer yerel bankaları etkileyen benzer bir sorunu araştırıyor: etkilenen bankalar arasında Hana Bank, KB Kookmin Bank ve Shinhan Bank var ve en az yirmi beş bin Shinhan Bank müşterisinin kişisel kredi bilgileri sızdı. Bu arada Nvidia, yapay zeka ajanlarının sanal ortamdan kaçmasını, yetkisiz kod çalıştırmasını ve güvenlik önlemlerini atlamasını engellemeyi amaçlayan Open Agent Safety Platform'u başlattı.

Kaynaklar: Tom's Hardware