AI-боти відволікають шахраїв і збирають шахрайські дані

AI „жертви“ затримують шахраїв

Протягом двох років австралійська компанія Apate побудувала систему, яка перенаправдяє шахраїв на AI-ботів по телефону. Боти настільки треновані, що продовжують розмову і не дають шахраю запідозрити. Засновник і генеральний директор Далі Кафарі каже, що мета — дати шахраям достатню надію залишатися на лінії, поки платформа збирає інформацію про шахрайство.

За словами Apate, її платформою користуються банки та телекомпанії; у неї близько 350 000 ботів. Боти відповідають на дзвінки, приєднуються до шахрайських чатів і відповідають на текстові повідомлення. Компанія каже, що зібрала понад 250 000 шахрайських даних, отриманих у реальному часі, серед яких шахрайські URL, рахунки money mule та банківські реквізити.

Випробування ідеальної жертви

За словами Apate, боти мають різні особистості, мовні навички та профілі, щоб шахраї менше підозрювали AI. Деякі персонажі мають WhatsApp, деякі — ні. Хтось приймає дзвінки, хтось — відмовляється і каже, що зателефонує пізніше.

На демонстрації, де WIRED відігравав роль шахрая, AI-персонажі були скептично налаштовані, але продовжували розмову, щоб затягнути час. Час реакції здавався природним у тесті, де брали участь подруга Люсі та фінансовий радник Мікі. Через шість хвилин учасники тесту все ж не переконали AI інвестувати в криптовалюту. Кафарі каже, що дзвінки Apate регулярно тривають понад дві години.

Медові пастки стають реальнішими

Кіберзлочинці щороку надсилають мільярди повідомлень і дзвінків, деякі операції керують шахрайськими сайтами промислового масштабу. Дослідники кажуть, що AI може допомогти розпочати нову епоху боротьби проти шахрайства через краще обмін інформацією між поліцією, компаніями соціальних медіа, банками та іншими галузями, а також через моніторинг на основі AI та аналіз даних.

Захисники також використовують фальшиві віртуальні машини, так звані медові пастки, щоб привабити хакерів, змусити їх втратити час і вивчити їхні техніки. Докторант ETH Zurich дослідник Марк Веро каже, що провайдери медових пасток з відкритим кодом додають великі мовні моделі, щоб системи виглядали реальнішими. У нього останньому дослідженні Веро та колеги виявили, що медова пастка на основі LLM змушувала AI-агентів значно довше продовжувати атаку, а показник виявлення її як медової пастки був низьким.

Джерела: Wired Ai