Ünlülerin AI deepfake'leri platformlar silinmesine rağmen yayılıyor

Onaylı hayran hesapları AI tarafından oluşturulan ünlülerin görsellerini yayıyor

Instagram'da yayınlanan, oyuncu Mia Goth'u "ESKİ SEVGİLİM EN BÜYÜK HAYRANIM" yazılı bir tişört giymiş görünen fotoğraf, birkaç gün içinde yaklaşık 500 000 beğeni topladı; bu, milyonlarca takipçisi olan mavi tikli bir hayran hesabına ait olmasına rağmen. Goth'un temsilcisi, hesabın sahte olduğunu, AI görsellerinin yayınlanmış olduğunu ve hayran hesabının doğrulama hakkı elde etmesini rahatsız edici olarak nitelendirdi. Meta, hesabı ünlü bir kişi yönetmese bile kullanıcıların mavi tik satın almasına olanak tanıyor.

Instagram daha sonra hesabı kamu kişiliği taklidi nedeniyle sildi. Gönderi zaten ünlüler hakkında dedikodular yayınlayan medyada yayılmıştı ve Google arama sonuçlarında, Goth'un boşanma açıklamasının ardından Shia LaBeouf'a açıkça gönderme yaptığına dair AI tarafından oluşturulan bir inceleme görünüyordu.

Cinsel içerikli deepfake'ler yine kolayca bulunabiliyor

Scarlett Johansson, Millie Bobby Brown, Zendaya ve Ariana Grande'nın AI tarafından oluşturulan görsellerini yayınlayan hesaplar yine kolayca bulunabiliyordu; bunlardan bazıları kısmen çıplak veya cinsel içerikli pozlara odaklanmıştı. Johansson'ın bir profili reklam amaçlı iletişim bilgileri ile Patreon ve Telegram abonelik bağlantıları içeriyordu, diğer hesaplar ise adını ve AI görselini yetişkin içeriğini popülerleştirmek için kullanıyordu. The Verge'ın Meta'yı sekiz hesap hakkında sormasının ardından, sözcü Alex Dzhedzhan, bunlardan bazılarını sildiklerini, aralarında Goth'un ve Johansson'ın sayfalarının da bulunduğunu söyledi. Meta'nın, gerçek mi yoksa sahte mi olduğuna bakılmaksızın, hesapların birinin benzerliğini kendisini o kişi gibi göstermek için kullanmasına izin vermediğini belirtti.

Platform kurallarında görseller ve ölçek için boşluklar devam ediyor

Meta gerçekçi videolar ve AI tarafından oluşturulan sesler için AI etiketleri istiyor, ancak statik görseller muaf tutuldu, bu yüzden Goth'un sahte görselinin ortaya çıkarılması gerekmedi. Şirket ayrıca avatarı var olmayan hesaplar için AI tarafından oluşturulan profil etiketleri ekledi. Bununla birlikte, hesapların küçük endüstrisi, görünüşe göre algoritmanın hoşuna giden gerçek insanların AI tasvirlerini yayınlamaya devam ediyor; AI'dan para kazanma videolarından AI içerikli kazanç sağlama kurslarıyla biten.

YouTube görsel eşleşmeler için benzerlik algılama uyguluyor ve kısa süre önce benzer sesler için de bunu yapmaya başladı; YouTube hesabı olan her yetişkinin kapsamda olduğunu söylüyor. Sözcü Jake Malone, aracın eğlence endüstrisi ile birlikte oluşturulduğunu ve YouTube'un 2026'nın ilk yarısında bu araç aracılığıyla bildirilen videoların %95'inden fazlasını sildiğini söyledi. 2025 yılında yasalaştırılan Take It Down Act, onaysız yayınlanan yakın görselleri, AI içeriği de dahil olmak üzere, ceza hukuku suçu olarak kabul ediyor ve bunların 48 saat içinde kaldırılmasını talep ediyor; ancak insanların AI tasvirleriyle ilgili davalar hâlâ büyük ölçüde platform seviyesinde yürütülüyor.

Kaynaklar: The Verge