قراصنة يسممون إجابات ChatGPT وGemini بأرقام دعم مزيفة
وجد باحثون أمنيون حملات مبرمجة تسمّم إجابات الذكاء الاصطناعي لدى 374 شركة: يعرض ChatGPT وGemini وGoogle AI Overview أرقام دعم مزيفة وصفحات تصيد للمستخدمين على أنها معلومات موثوقة.
اكتشف باحثون في الأمن السيبراني أن المهاجمين يسممون إجابات ChatGPT وGemini وGoogle AI Overview ببيانات اتصال مزيفة، ويوجّهون المستخدمين إلى أرقام احتيالية وصفحات تصيّد. نشر النتائج Ariel Simon على Medium كجزء أول من سلسلة عن التضليل المعلوماتي في الذكاء الاصطناعي.
ما وجده الباحثون
بنى Ariel Simon وأربعة من زملائه نظام كشف يحلّل إجابات الأنظمة الثلاثة والمصادر التي تعتمد عليها، ويرصد الحالات التي يُستشهد فيها برقم أو رابط أو بريد كاذب. وعند اختباره على شركات من Fortune 100 وبنوك وشركات طيران وبرمجيات، رصد الفريق حملات ضد 374 شركة، بينها Delta وLufthansa وEmirates وQatar Airways وبنوك Bank of America وWells Fargo وChase وCiti ومنصات Airbnb وTripAdvisor. رُصدت عشرات الآلاف من الصفحات الخبيثة. ويشير المنشور إلى دراسة من Exploding Topics: 92% من المستخدمين لا يتحققون من إجابات الذكاء الاصطناعي.
كيف تعمل الهجمات
يُبنى المحتوى بتقنيات GEO (Generative Engine Optimization)، أي تشكيل المحتوى ليستشهد به نموذج لغوي. تكرّر المنشورات الرقم المزيف وتضيف عبارات مثل «اتصل الآن» و«24/7». وتُكتب الأرقام أيضاً بمسافات ونقاط ورموز تعبيرية ومحارف Unicode: فلا تتعرف مرشحات الرسائل المزعجة عليها، بينما يقرأها النموذج بعد الترميز بالقيمة نفسها.
يُنسخ النص نفسه إلى الشبكات الاجتماعية وملفات PDF على مواقع جامعات، وإلى منصات مثل Google Sites وGitHub Pages. ويستهدف المحتوى لحظات الذعر — استرداد الأموال، الرحلات الملغاة، الحسابات المقفلة — ليدفع المستخدم إلى الاتصال فوراً بدل التحقق من الموقع الرسمي.
الإزالة لا تلحق بالوتيرة
الحملات آلية: مئات المنشورات يومياً لكل شركة على كل منصة، وآلاف الصفحات يومياً. وتستغرق إزالة صفحة واحدة ساعات أو أياماً بينما تُنشأ ألف صفحة جديدة، وتبقى النسخ في خدمات مثل archive.org ضمن الفهرس. وشغلت منشورات على LeetCode تستهدف American Airlines أكثر من 10 صفحات من نتائج Google خلال 24 ساعة.
ردّ الشركات والمزوّدين
أبلغ الباحثون الشركات عبر قنوات مكافآت الثغرات ومكافحة الاحتيال والأمن. ولم تكن معظم الشركات مدركة للحجم، بينما اعتبر بعضها المسألة خارج مسؤوليته. صنّفت Google الحالة خارج برنامج مكافآت الثغرات. وأغلقت OpenAI التقرير بوصفه غير قابل لإعادة الإنتاج، مطالبةً بتأثير مثبت على المستخدمين لا بهجوم نظري. ويرى الباحثون أن هذه الحملات تكلف الشركات إيرادات وثقة وتكاليف قانونية.
SiTech — تطوير ويب مدعوم بالذكاء الاصطناعي
نبني مواقع سريعة وعصرية وندمج الذكاء الاصطناعي في سير عمل الشركات. لديك مشروع أو سؤال؟ يسعدنا مساعدتك.