WIRED 400-dən çox aldadıcı AI tətbiqinin seksual dərin saxta alətləri gizlətdiyini aşkar etdi

WIRED araşdırması göstərdi ki, adətən sıradan AI xidmətləri kimi təqdim olunan 400-dən çox əlaqəli domen və tətbiq gizlicə açıq AI seksual şəkil və video yaratma interfeyslərini yükləyə bilər. Tədqiqatçılar şəbəkəni Meta-nın Facebook və Instagram platformalarındakı minlərlə açıq dərin saxta məzmunlu video reklamındakı keçidləri araşdırarkən aşkar etdilər.

Aldadıcı tətbiqlər və gizli davranış

Viefur adlı ev heyvanı portreti tətbiqi ev heyvanlarının fotolarını antropomorf portretlərə çevirdiyi görünən bir nümunədir. Tədqiqatçılar deyir ki, şəbəkədəki tətbiqlər məkan, dil və unikal identifikator kimi məlumatlardan istifadə edərək zərərsiz məzmun göstərmək və ya açıq dərin saxta veb interfeysini yükləmək barədə server tərəfində qərar verə bilər. Əlaqəli Meta reklamına kliklədikdən sonra tətbiqin yüklənməsi aktivləşdirici amillərdən biri kimi görünür. WIRED-ə görə, tətbiqlər yataq otağında zorlama və bıçaqla hədələmə kimi açıq AI səhnələri ehtiva edir.

Miqyas və platforma cavabı

Tədqiqatçılar tətbiqlərin təxminən bir il ərzində, bəzən həftədə onlarla olmaqla yayımladığını tapdılar. AI Forensics-dən Paul Bouchaud müəyyən bir vaxtda həftədə təxminən 30 nudify tətbiqi və saytının qeydiyyata alındığını, sentyabrda Google Play-də 27-nin canlı olduğunu aşkar etdi. Həmin tətbiqlər kollektiv şəkildə 350 000-dən çox dəfə yüklənmişdi və bir çoxu bütün yaş qrupları üçün uyğun qiymətləndirilmişdi. DiffAI adlı bir tətbiqin 100 000-dən çox yüklənməsi var idi. Google DiffAI-ni WIRED şirkətlə əlaqə saxlamasından qısa müddət əvvəl sildi və əlaqə saxlanılmadan əvvəl tətbiqlərin çoxunu silmişdi. Apple WIRED fəaliyyət barədə soruşduqdan sonra Viefur daxil olmaqla 19 tətbiqi sildi. Apple sözçüsü Adam Dema dedi ki, tətbiqlər yoxlanış zamanı uyğun idi, lakin tərtibatçılar daha sonra tətbiqin məzmun çəkdiyi veb saytı dəyişdirdi. Meta dedi ki, 2025-ci ildə KeLing Technology Limited şirkətini reklamdan qadağan etdi və daha sonra domenlərlə bağlı minlərlə reklam hesabı, səhifə və istifadəçiyə qarşı tədbir gördü.

Çin mənşəli və şirkət əlaqələri

WIRED bildirdi ki, tətbiqlər və domenlər Çin tərtibatçıları və Hong Kong-da qeydiyyatdan keçmiş KeLing Technology Limited adlı qurum tərəfindən idarə olunur görünür. Infoblox-dan Maël Le Touz dedi ki, şəbəkə yalnız Çin hostinqindən, çin dilində yazılmış kod və çin dilində şərhlərdən istifadə edir. Şirkətin adı şəbəkədə qeydiyyata alınmış ilk veb saytın əlaqə məlumatlarında göstərilmişdi və administrasiya giriş səhifəsi Keling adını çəkərək açıq dərin saxta interfeysinə bağlı idi. Qurum, tətbiqlər və əlaqəli xidmətlərlə bağlı e-poçt ünvanları şərh üçün bir neçə sorğuya cavab vermədi. WIRED əlaqə saxladıqdan sonra KeLing ilə dərin saxta alətlər arasındakı bəzi ictimai əlaqələr silinmiş görünürdü.

Mənbələr: Wired