Hakerlər ChatGPT və Gemini cavablarını saxta dəstək nömrələri ilə zəhərləyir

Təhlükəsizlik tədqiqatçıları müəyyən ediblər ki, hücum edənlər ChatGPT, Gemini və Google AI Overview cavablarını saxta əlaqə məlumatları ilə zəhərləyir və istifadəçiləri fırıldaqçı nömrələrə və fişinq səhifələrinə yönləndirir. Nəticələri Ariel Simon Medium-da süni intellekt dezinformasiyasına həsr olunmuş seriyanın ilk hissəsi kimi dərc edib.

Tədqiqatçılar nə tapdılar

Ariel Simon və dörd həmkarı üç süni intellekt sisteminin cavablarını və istinad etdikləri mənbələri təhlil edən aşkarlama sistemi qurublar. Sistem saxta nömrə, keçid və ya e-poçtun sitat gətirildiyi halları qeyd edir. Fortune 100 şirkətləri, banklar və aviaşirkətlər üzərində yoxlama 374 şirkətə qarşı kampaniya aşkar edib; bunlara Delta, Lufthansa, Emirates, Bank of America, Chase, Airbnb və TripAdvisor daxildir. On minlərlə zərərli səhifə aşkarlanıb. Yazıda Exploding Topics araşdırmasına da istinad edilir: istifadəçilərin 92%-i süni intellekt cavablarını yoxlamır.

Hücumlar necə işləyir

Materiallar GEO (Generative Engine Optimization) üsulu ilə hazırlanır. Paylaşımlar saxta nömrəni təkrarlayır və "indi zəng edin" və ya "24/7" kimi ifadələr əlavə edir. Rəqəmlər boşluq, nöqtə, emoji və Unicode simvolları ilə də yazılır: spam filtrləri nömrəni tanımır, model isə onu eyni kimi oxuyur.

Eyni mətn sosial şəbəkələrə, universitet saytlarındakı PDF-lərə və Google Sites kimi platformalara köçürülür. Məzmun panika anlarını hədəfləyir — pulun qaytarılması, ləğv edilmiş uçuşlar, bloklanmış hesablar — ki istifadəçi rəsmi saytı yoxlamaq əvəzinə dərhal zəng etsin.

Silinmə prosesi yetişmir

Kampaniyalar avtomatlaşdırılıb: hər şirkət üçün gündə yüzlərlə paylaşım, gündəlik minlərlə səhifə. Bir səhifənin silinməsi saatlar və ya günlər çəkir, eyni zamanda minlərlə yenisi yaranır və archive.org-dakı nüsxələr indeksdə qalır. American Airlines-a qarşı LeetCode paylaşımları 24 saat ərzində Google nəticələrinin 10 səhifədən çoxunu tutub.

Şirkətlərin və təchizatçıların reaksiyası

Tədqiqatçılar hücumlar barədə şirkətlərə bug bounty və təhlükəsizlik kanalları ilə məlumat veriblər. Şirkətlərin çoxu miqyasdan xəbərsiz idi, bəziləri məsələni əhatə dairəsindən kənar saydı. Google hadisəni mükafat proqramından kənar təsnif edib. OpenAI hesabatı təkrarlana bilməyən kimi bağlayıb və nəzəri hücum əvəzinə sübut edilmiş təsir tələb edib. Tədqiqatçıların fikrincə, bu cür kampaniyalar şirkətlərə gəlir, etibar və hüquqi xərc itkisi gətirir.