AI botları dolandırıcıların zamanını tüketiyor ve sahte veri topluyor

AI „kurbanlar“ dolandırıcıları yakalıyor

İki yıl boyunca Avustralyalı şirket Apate, dolandırıcıları AI botlarına yönlendiren bir sistem kurdu. Botlar, konuşmayı uzatmak ve dolandırıcılığı sürdürmek için eğitilmiştir. Kurucu ve icra başkanı Dali Kaaffer, platformun dolandırıcılık hakkında bilgi toplarken dolandırıcılarda kalma umudu vermeyi amaçladığını söylüyor.

Apate'nin platformunu bankaların ve telekomünikasyon şirketlerinin kullandığını ve yaklaşık 350 000 botu olduğunu söylüyor. Botlar aramalara yanıt veriyor, dolandırıcı sohbetlerine katılıyor ve metin mesajlarına cevap veriyor. Şirket, 250 000'den fazla gerçek zamanlı dolandırıcı verisi topladığını, bunların arasında dolandırıcı URL'leri, para mule hesapları ve bankacılık detaylarının da bulunduğunu belirtiyor.

İdeal kurbanı test etmek

Apate, botların dolandırıcılarca AI tarafından daha az fark edilmesi için farklı kişiliklere, dil becerilerine ve profillere sahip olduğunu söylüyor. Bazı karakterlerde WhatsApp var, bazılarında yok. Bazıları telefonu açıyor, bazıları kapatıyor ve sonra arayacaklarını söylüyor.

WIRED'in dolandırıcı rolünü üstlendiği gösterimde, AI karakterleri şüpheciydi ancak konuşmayı uzatmak için hataları bıraktı. Arkadaş Lucy ve danışman Mickey'nin katıldığı testte zamanlama doğal göründü. Altı dakika sonunda test katılımcıları, AI'yı kripto para birimine yatırım yapmaya ikna edemedi. Kaaffer, Apate'nin aramalarının düzenli olarak iki saatten fazla sürdüğünü söylüyor.

Tuzaklar daha gerçekçi hale geliyor

Siber suç yıllarca milyarlarca mesaj ve arama gönderiyor, bazı operasyonlar endüstriyel ölçekte dolandırıcı siteleri yönetiyor. Araştırmacılar, AI'nın polisin, sosyal medya şirketlerinin, bankaların ve diğer endüstriler arasındaki daha iyi bilgi paylaşımıyla dolandırıcılıkla mücadelede yeni bir çağ başlatabileceğini söylüyor, ayrıca AI tabanlı izleme ve veri analiziyle de.

Koruyucular, siber suçluları çekmek, zamanlarını kaybetmek ve tekniklerini öğrenmek için sahte sanakinler, yani tuzaklar kullanıyor. ETH Zurich doktora araştırmacısı Mark Vero, açık kaynaklı tuzak sağlayıcıların sistemleri daha gerçekçi göstermek için büyük dil modellerini eklediğini söylüyor. Vero ve meslektaşlarının son araştırmasında, LLM tabanlı tuzakların AI ajanlarını saldırıyı önemli ölçüde daha uzatmaya zorladığını ve tuzak olarak tespit edilme oranının çok düşük olduğunu ortaya çıktı.

Kaynaklar: Wired Ai