בוטי AI מבזבזים זמן של הונאים ואוספים נתונים הונאתיים

AI „קורבנות“ עוצרים הונאים

במשך שנתיים חברה אוסטרלית Apate בנתה מערכת שמפנה שיחות של הונאים לבוטי AI. הבוטים מאומנים כך שימשיכו את השיחה ולא ינטשו את ההונאה. המייסד ומנכ״ל דלי קאפרי אומר שהמטרה היא לתת להונאים מספיק תקווה להישאר על הקו, עד שהפלטפורמה אוספת מידע על ההונאה.

לטענת Apate, הפלטפורמה שלה משמשת בנקים וחברות תקשורת תומכות בה; יש לה כ-350 000 בוטים. הבוטים עונים לשיחות, מצטרפים לצ'אטים הונאתיים ועונים על הודעות טקסט. החברה אומרת שאספה יותר מ-250 000 נתונים הונאתיים שהתקבלו בזמן אמת, ביניהם כתובות URL הונאתיות, חשבונות money mule ופרטים בנקאיים.

מבחן הקורבן האידיאלי

לטענת Apate, לבוטים יש אישיות, כישורים לשוניים ופרופילים שונים, כדי שהונאים יזהו פחות את ה-AI. לחלק מהדמויות יש WhatsApp, ולחלק אין. חלק עונות לטלפון, וחלק מנתקות ואומרות שיחזרו להתקשר מאוחר יותר.

בהדגמה, שבה WIRED גילתה את תפקיד ההונאה, הדמויות של ה-AI היו ספקניות, אבל השאירו פרצות כדי להמשיך את השיחה. התזמון נראה טבעי במבחן שבו השתתפו החברה לוסי והיועץ הפיננסי מיקי. אחרי שש דקות, משתתפי המבחן עדיין לא שכנעו את ה-AI להשקיע באפשרות של מטבע קריפטו. קאפרי אומר ששיחות Apate נמשכות בדרך כלל יותר משעתיים.

דבים הופכים ליותר ריאליים

פושעי סייבר שולחים מיליארדי הודעות ושיחות מדי שנה, וחלק מהמבצעים מנהלים אתרי הונאה בקנה מידה תעשייתי. חוקרים אומרים ש-AI יכול לסייע ביצירת עידן חדש במאבק בהונאה באמצעות שיתוף מידע טוב יותר בין משטרה, חברות מדיה חברתית, בנקים ותעשיות אחרות, וכן באמצעות ניטור וניתוח נתונים מבוססי AI.

מגנים משתמשים גם במכונות וירטואליות מזויפות, המכונות דבים, כדי למשוך האקרים, לגרום להם לבזבז זמן וללמוד את הטכניקות שלהם. החוקר ודוקטורנט ETH Zurich מארק ורו אומר שספקי דבים בקוד פתוח מוסיפים מודלים לשוניים גדולים כדי שהמערכות ייראו יותר ריאליות. במחקר אחרון ורו ועמיתיו גילו שדבי מבוססי LLM אילצו סוכני AI להאריך את ההתקפה באופן משמעותי, ודירוג זיהוי הדב היה נמוך בהרבה.

מקורות: Wired Ai