روبوتات الذكاء الاصطناعي تستنزف وقت المحتالين وتجمع بيانات احتيالية

الذكاء الاصطناعي "الضحايا" يطارد المحتالين

على مدى عامين، قامت الشركة الأسترالية Apate ببناء نظام يعيد توجيه المحتالين عبر الهاتف إلى روبوتات الذكاء الاصطناعي. الروبوتات مدربة بشكل جيد لتمديد المحادثة وعدم كشف الاحتيال. يقول المؤسس والمدير التنفيذي دالي كافاري إن الهدف هو منح المحتالين أملاً كافياً للبقاء على الخط بينما تجمع المنصة معلومات حول الاحتيال.

وفقاً لـ Apate، تستخدم منصتها من قبل البنوك وشركات الاتصالات التي تدعمها؛ لديها حوالي 350 000 روبوت. الروبوتات ترد على المكالمات، تنضم إلى محادثات احتيالية وترسل رسائل نصية. تقول الشركة إنها جمعت أكثر من 250 000 بيانات احتيالية تم استلامها في الوقت الفعلي، بما في ذلك عناوين URL احتيالية وحسابات money mule وتفاصيل مصرفية.

اختبار الضحية المثالية

وفقاً لـ Apate، تتمتع الروبوتات بشخصيات ومهارات لغوية وملفات تعريف مختلفة حتى يتعرف عليها المحتالون بشكل أقل كذكاء اصطناعي. بعض الشخصيات لديها WhatsApp وبعضها لا. بعضها يرد على الهاتف وبعضها يغلق ويقول إنه سيتصل لاحقاً.

في عرض توضيحي، حيث قام WIRED بدور المحتال، كانت شخصيات الذكاء الاصطناعي متشككة لكنها تركت ثغرات لتمديد المحادثة. بدا التوقيت طبيعياً في اختبار شارك فيه الصديق لوسي والمستشار المالي ميكي. بعد ست دقائق، لم يتمكن المشاركون في الاختبار من إقناع الذكاء الاصطناعي بالاستثمار في العملات المشفرة. يقول كافاري إن مكالمات Apate تستمر بانتظام لأكثر من ساعتين.

مصائد العسل تصبح أكثر واقعية

يرسل مجرمو الإنترنت مليارات الرسائل والمكالمات سنوياً، وتدير بعض العمليات مواقع احتيالية على نطاق صناعي. يقول الباحثون إن الذكاء الاصطناعي يمكنه المساعدة في عصر جديد من مكافحة الاحتيال من خلال مشاركة أفضل للمعلومات بين الشرطة وشركات التواصل الاجتماعي والبنوك والصناعات الأخرى، فضلاً عن المراقبة القائمة على الذكاء الاصطناعي وتحليل البيانات.

يستخدم المدافعون أيضاً أجهزة افتراضية مزيفة، تُعرف بمصائد العسل، لجذب المتسللين وإضاعة وقتهم ودراسة تقنياتهم. يقول الباحث وطالب الدكتوراه في ETH Zurich مارك فيرو إن مقدمي مصائد العسل مفتوحة المصدر يضيفون نماذج لغوية كبيرة لجعل الأنظمة تبدو أكثر واقعية. في دراسة حديثة، وجد فيرو وزملاؤه أن مصيدة العسل القائمة على LLM أجبرت وكلاء الذكاء الاصطناعي على تمديد الهجوم لفترة أطول بكثير وكان معدل اكتشافها كمصيدة عسل منخفضاً بشكل كبير.

المصادر: Wired Ai