WIRED, Cinsel Deepfake Araçlarını Gizleyen 400'den Fazla Aldatıcı Yapay Zeka Uygulaması Buldu

WIRED'ın bir soruşturması, kendilerini sık sık sıradan yapay zeka hizmetleri olarak sunan 400'den fazla bağlantılı alan adı ve uygulamanın, açık yapay zeka cinsel görüntü ve videolar üretmek için arayüzleri gizlice yükleyebildiğini ortaya koydu. Araştırmacılar bu ağı, Meta'nın Facebook ve Instagram platformlarındaki açık deepfake içerikli binlerce video reklamdaki bağlantıları inceledikten sonra keşfetti.

Aldatıcı uygulamalar ve gizli davranış

Bir örnek olarak Viefur adlı evcil hayvan portresi uygulaması, evcil hayvan fotoğraflarını insan biçimli portrelere dönüştürüyor gibi görünüyor. Araştırmacılar, ağdaki uygulamaların konum, dil ve benzersiz bir tanımlayıcı gibi bilgileri kullanarak zararsız içerik mi göstereceğine yoksa açık bir deepfake web arayüzü mü yükleyeceğine sunucu tarafında karar verebildiğini söylüyor. İlişkili bir Meta reklamına tıklandıktan sonra bir uygulama indirmek tetikleyicilerden biri gibi görünüyor. WIRED'a göre uygulamalar, yatak odasında tecavüz ve bıçakla tehdit gibi açık yapay zeka sahneleri içeriyor.

Ölçek ve platform yanıtı

Araştırmacılar uygulamaların yaklaşık bir yıldır yayınlandığını, zaman zaman haftada onlarcasının çıktığını buldu. AI Forensics'ten Paul Bouchaud, bir noktada haftada yaklaşık 30 nudify uygulaması ve web sitesinin kaydedildiğini, Eylül ayında Google Play'de 27'sinin yayında olduğunu buldu. Bu uygulamalar toplamda 350.000'den fazla kez indirilmişti ve birçoğu her yaş grubuna uygun olarak derecelendirilmişti. DiffAI adlı bir uygulamanın 100.000'den fazla indirilmesi vardı. Google, WIRED şirketle iletişime geçmeden kısa süre önce DiffAI'yi kaldırdı ve iletişime geçilmeden önce uygulamaların çoğunu da kaldırmıştı. Apple, WIRED bu faaliyet hakkında sorduktan sonra Viefur dahil 19 uygulamayı kaldırdı. Apple sözcüsü Adam Dema, uygulamaların incelendiğinde kurallara uyduğunu ancak geliştiricilerin daha sonra uygulamanın içerik çektiği web sitesini değiştirdiğini söyledi. Meta, KeLing Technology Limited'i 2025'te reklamcılıktan yasakladığını ve daha sonra alan adlarıyla bağlantılı binlerce reklam hesabı, sayfa ve kullanıcıya karşı işlem yaptığını söyledi.

Çin kökenleri ve şirket bağlantıları

WIRED, uygulamaların ve alan adlarının Çinli geliştiriciler ile KeLing Technology Limited adlı Hong Kong'da kayıtlı bir varlık tarafından işletiliyor göründüğünü bildirdi. Infoblox'tan Maël Le Touz, ağın yalnızca Çin hosting'i, Çince yazılmış kod ve Çince yorumlar kullandığını söyledi. Şirketin adı, ağda kaydedilen ilk web sitesinin iletişim bilgileri olarak listelenmişti ve açık deepfake arayüzüyle bağlantılı bir yönetim giriş sayfası Keling'den bahsediyordu. Varlık, uygulamalar ve ilgili hizmetlerle bağlantılı e-posta adresleri, yorum taleplerine birden çok kez yanıt vermedi. WIRED iletişime geçtikten sonra KeLing ile deepfake araçları arasındaki bazı kamuya açık bağlantılar silinmiş gibi görünüyordu.

Kaynaklar: Wired