Meta uşaq cinslə zorakılıq materialına işarə edən reklamları aşkar etmək üçün yeni AI alətləri təqdim etdi

Meta çərşənbə günü elan etdi ki, 2026-cı ilin ilk yarısında Facebook və Instagram-da 33,2 milyon uşaq cinslə istismar məzmununa qarşı tədbirlər gördü. Şirkətin sözlərinə görə, bu məzmunun 97%-dən çoxunu istifadəçilərə bildirməzdən əvvəl öz sistemləri aşkar etdi. Hindistanda Meta eyni dövrdə 5,3 milyon belə məzmunə qarşı tədbir gördü və onların 98%-dən çoxu istifadəçilərə bildirməzdən əvvəl tapıldı.

„İşarə“ verən reklamları aşkar etmək üçün yeni AI alətləri

İcra statistikası ilə birlikdə Meta, insanları uşaq cinslə zorakılığının qeyri-qanuni materialına gizlicə işarə edən reklamları və hesabları tapmaq üçün nəzərdə tutulmuş AI alətlərini gücləndirir. Şirkət, reklam zəif görünsə də, istifadəçiləri məzmuna və ya internetdə digər fəaliyyətə işarə etməyə şübhələnən təknikası — özü „işarəçilik“ adını verdiyi — tanıyan yeni böyük dil modeli sistemini təqdim etdi. Meta-nın sözlərinə görə, zərərli subyektlər son vaxtlarda bu üsuldan istifadə edir, çünki aşkar olunmaqdan qaçmaq üçün üsulları dəyişdirir.

Reklamların özündə qeyri-qanuni material olmaya biləcəyi üçün Meta, reklamın nəyi ehtiva etdiyini deyil, istifadəçiləri harada işarə etdiyini yoxlayır. Şirkət bu məlumatdan qaydalarını pozan veb-səhifələr və ya digər təyinat yerlərini bloklamaq və arxalarında dayanan hesablara qarşı tədbirlər görmək üçün istifadə edə bilər. Meta həmçinin əvvəlki sistemlərin buraxmağı ehtimal olan uşaq cinslə istismar məzmununu tapmaq üçün əlavə AI əsaslı skanerləri gücləndirir və bu şəbəkələrin işi haqqında daha çox öyrəndikdə yeni siqnallar əlavə edir.

„Qırmızı komanda“ agenti və təkrarlanan pozucuların aşkarlanması

Yeni alət „Qırmızı komanda“ AI agentidir; o, zərərli subyektlərin müdafiəni aşkar edə biləcəyi zəiflikləri tapmaq üçün Meta-nın təhlükəsizlik tədbirlərini yoxlayır. Meta-nın sözlərinə görə, bu, uşaqlara qarşı zorakılığın yeni üsullarını daha geniş yayılmamışdan əvvəl aşkar etməyə kömək edəcək. Şirkət həmçinin əvvəlki hesabları silindikdən sonra platformalarında yeni hesablar ilə geri qayıdan şəxsləri aşkar etmək üçün sistemləri təkmilləşdirir.

Uşaq təhlükəsizliyinə daha geniş səy

Bu tədbirlər Meta platformalarında uşaq təhlükəsi ilə bağlı təzyiqə, o cümlədən məhkəmə işlərinə və tənqidlərə yenə də üz-üzə qalanda qəbul olunur. Avqustda Meta, 29 ABŞ ştatının iştirak etdiyi uşaq təhlükəsizliyi məhkəmə işinin həll edilməsi üçün 18 milyard dollara qədər ödəniş etməyi razılaşdırda. İlın əvvəlində şirkət Meta AI üçün valideyn nəzarəti, WhatsApp-da gənclərin hesabları və uşaqlar özünə ziyan verən məzmun axtardıqda valideynlər üçün siqnalları təqdim etdi. Sentyabrda WhatsApp valideyn nəzarətini daha da artırdı; bu, valideynlərə gənclərin Channels istifadəsini məhdudlaşdırmağa, status yeniləmələrini kimin görəcəyini nəzarət etməyə, uşaqların qruplarına kimin əlavə edə biləcəyinə qərar verməyə və qrupun müəyyən fəaliyyəti haqqında bildirişlər almağa imkan verir.

Mənbələr: Techmeme · Techcrunch