Meta, çocuk cinsel istismarı malzemesine yönlendiren reklamları tespit etmek için yeni AI araçlarını tanıttı

Meta Çarşamba günü, 2026 yılının ilk yarısında Facebook ve Instagram'da 33,2 milyon çocuk cinsel istismarı içeriğine karşı önlem aldığını duyurdu. Şirketin ifadesine göre, bu içeriğin %97'sinden fazlası kullanıcılara bildirilmeden kendi sistemleri tarafından tespit edildi. Hindistan'da Meta aynı dönemde 5,3 milyon bu tür içeriğe karşı harekete geçti ve bunların %98'inden fazlası kullanıcı bildiriminden önce bulundu.

Yeni AI araçları 'yönlendiren' reklamları tespit etmek için

Uygulama istatistiklerinin yanı sıra Meta, insanları çocuk cinsel istismarı yasa dışı malzemesine gizlice yönlendiren reklamları ve hesapları bulmak üzere tasarlanmış AI araçlarını devreye sokuyor. Şirket, reklam görünüşte zararsız görünse de kullanıcıları içeriğe veya internetteki diğer etkinliklere yönelttiğinden şüphelenilen, kendi adıyla 'yönlendirme' olarak adlandırdığı taktikleri tanıyan yeni bir büyük dil modeli sistemi sundu. Meta'ya göre, kötü niyetli aktörler tespit etmekten kaçınmak için son zamanlarda bu yaklaşımı kullanıyorlar.

Reklamların kendisinde yasa dışı malzeme bulunmayabileceğinden, Meta reklamın içeriğini değil, kullanıcıları nereye yönelttiğini kontrol ediyor. Şirket, kurallarını çiğneyen web sitelerini veya diğer hedef yerleri engellemek ve arkasındaki hesaplara karşı önlem almak için bu bilgiyi kullanabiliyor. Meta ayrıca, önceki sistemlerin kaçırabileceği çocuk istismarı içeriğini bulmak için ek AI tabanlı taramalar devreye sokuyor ve bu ağların çalışması hakkında daha fazla bilgi edindiğinde yeni sinyaller ekliyor.

'Kırmızı takım' ajanı ve tekrarlayan ihlalcilerin tespiti

Diğer bir yeni araç, Meta'nın kendi güvenlik önlemlerindeki zayıflıkları arayarak kötü niyetli aktörler tarafından savunma aşılarak kullanılabilecek açıkları tespit eden 'Kırmızı takım' AI ajanıdır. Meta'ya göre, bu, çocuklara yönelik şiddetin yeni yöntemlerini daha yaygınlaşmadan tespit etmesine yardımcı olacak. Şirket ayrıca, önceki hesapları silindikten sonra platformlarında yeni hesaplarla geri dönen kişileri tespit etmek için sistemlerini geliştiriyor.

Çocuk güvenliğine yönelik daha geniş çaba

Bu önlemler, platformlardaki çocuk güvenliği konusunda davalar ve eleştiriler de dahil olmak üzere baskıya devam ederken alınıyor. Ağustos'ta Meta, 29 ABD eyaletinin yer aldığı çocuk güvenliği davasını çözmek için 18 milyar dolara kadar ödemeyi kabul etti. Yılın başında şirket, Meta AI için ebeveyn kontrolü, WhatsApp'taki genç hesaplar ve çocukların kendine zarar veren içerik aradığında ebeveynlere sinyaller gönderme özelliğini tanıttı. Eylül'de WhatsApp, ebeveynlerin gençlerin Channels kullanımını sınırlamasına, durum güncellemelerini kimin gördüğünü kontrol etmesine, çocuklarının gruplara kimlerin eklenebileceğine karar vermesine ve grup belirli etkinlikleri hakkında bildirim almasına olanak tanıyan daha fazla ebeveyn kontrolü ekledi.

Kaynaklar: Techmeme · Techcrunch