WIRED-მა 400-ზე მეტი მატყუარა AI აპი იპოვა, რომლებიც სექსუალურ დიფფეიკ-ხელსაწყოებს მალავენ

WIRED-ის გამოძიებამ დაადგინა, რომ 400-ზე მეტი დაკავშირებული დომენი და აპი, რომლებიც ხშირად თავს ჩვეულებრივ AI სერვისებად ასაღებენ, შეიძლება ფარულად ტვირთავდეს ინტერფეისებს სექსუალური AI სურათებისა და ვიდეოების შესაქმნელად. მკვლევარებმა ქსელი აღმოაჩინეს Meta-ს Facebook-სა და Instagram-ზე ათასობით ვიდეორეკლამაში ბმულების გამოკვლევის შემდეგ; ამ რეკლამებს სექსუალური დიფფეიკ-კონტენტი ჰქონდათ.

მატყუარა აპები და ფარული ქცევა

ერთი მაგალითია Viefur, შინაური ცხოველების პორტრეტების აპი, რომელიც ცხოველების ფოტოებს ანთროპომორფულ პორტრეტებად აქცევს. მკვლევარების თქმით, ქსელის აპებს შეუძლიათ სერვერის მხარეს გადაწყვიტონ, აჩვენონ უწყინარი კონტენტი თუ ჩატვირთონ სექსუალური დიფფეიკის ვებ-ინტერფეისი; ისინი იყენებენ მდებარეობას, ენასა და უნიკალურ იდენტიფიკატორს. ერთი ტრიგერი, როგორც ჩანს, Meta-ს რეკლამაზე დაწკაპუნების შემდეგ აპის ჩამოტვირთვაა. WIRED-ის ცნობით, აპებში არის სექსუალური AI სცენები, მაგალითად, საძინებელში გაუპატიურება და დანით მუქარა.

მასშტაბი და პლატფორმების რეაქცია

მკვლევარებმა დაადგინეს, რომ აპები დაახლოებით ერთი წელი ქვეყნდებოდნენ, ზოგჯერ კვირაში ათეულობით. AI Forensics-ის პოლ ბუშომ აღმოაჩინა, რომ ერთ დროს კვირაში დაახლოებით 30 nudify აპი და ვებსაიტი რეგისტრირდებოდა; სექტემბერში Google Play-ზე 27 აქტიური იყო. მათ ერთობლივად 350 000-ზე მეტი ჩამოტვირთვა ჰქონდათ, ბევრი კი ყველა ასაკისთვის შესაფერისად იყო შეფასებული. DiffAI-ს 100 000-ზე მეტი ჩამოტვირთვა ჰქონდა. Google-მა DiffAI წაშალა ცოტა ხნით ადრე, სანამ WIRED კომპანიას დაუკავშირდებოდა, და კონტაქტამდე უკვე წაეშალა აპების უმეტესობა. Apple-მა 19 აპი წაშალა, მათ შორის Viefur, მას შემდეგ, რაც WIRED ამ აქტივობაზე იკითხა. Apple-ის წარმომადგენელმა ადამ დემამ თქვა, რომ შემოწმებისას აპები წესებს შეესაბამებოდნენ, თუმცა დეველოპერებმა მოგვიანებით შეცვალეს ვებსაიტი, საიდანაც აპი კონტენტს იღებს. Meta-მ თქვა, რომ 2025 წელს KeLing Technology Limited-ს რეკლამის განთავსება აუკრძალა, მოგვიანებით კი ზომები მიიღო დომენებთან დაკავშირებული ათასობით სარეკლამო ანგარიშის, გვერდისა და მომხმარებლის წინააღმდეგ.

ჩინური წარმომავლობა და კომპანიასთან კავშირები

WIRED-ის ცნობით, აპებსა და დომენებს, როგორც ჩანს, მართავენ ჩინელი დეველოპერები და ჰონგ-კონგში რეგისტრირებული KeLing Technology Limited. Infoblox-ის მაელ ლე ტუზმა თქვა, რომ ქსელი იყენებს მხოლოდ ჩინურ ჰოსტინგს, ჩინურად დაწერილ კოდსა და ჩინურენოვან კომენტარებს. კომპანიის სახელი მითითებული იყო ქსელის პირველი ვებსაიტის საკონტაქტო მონაცემებში, ხოლო სექსუალური დიფფეიკის ინტერფეისთან დაკავშირებულ ადმინისტრატორის შესვლის გვერდზე მოხსენიებულია Keling. კომპანიასთან, აპებთან და დაკავშირებულ სერვისებთან კავშირში მყოფმა ელფოსტის მისამართებმა კომენტარის თხოვნას რამდენჯერმე არ უპასუხა. WIRED-ის დაკავშირების შემდეგ KeLing-სა და დიფფეიკის ხელსაწყოებს შორის ზოგიერთი საჯარო კავშირი, როგორც ჩანს, წაიშალა.

წყაროები: Wired