Meta-მ ახალი AI ინსტრუმენტები წარადგინა ბავშვთა სექსუალური ძალადობის მასალაზე მიმანიშნებელი რეკლამების გამოსავლენად

Meta-მ ოთხშაბათს განაცხადა, რომ 2026 წლის პირველ ნახევარში Facebook-სა და Instagram-ზე 33,2 მილიონი ბავშვთა სექსუალური ექსპლუატაციის კონტენტის წინააღმდეგ ზომები მიიღო. კომპანიის თქმით, ამ კონტენტის 97%-ზე მეტი მისივე სისტემებმა გამოავლინეს, სანამ მომხმარებლები შეატყობინებდნენ. ინდოეთში Meta-მ იმავე პერიოდში 5,3 მილიონი ასეთი კონტენტის წინააღმდეგ იმოქმედა, და მათგან 98%-ზე მეტი მომხმარებლების შეტყობინებამდე იქნა ნაპოვნი.

ახალი AI ინსტრუმენტები „მიმანიშნებელი“ რეკლამების გამოსავლენად

აღსრულების სტატისტიკასთან ერთად Meta ნერგავს AI ინსტრუმენტებს, რომლებიც განკუთვნილია რეკლამებისა და ანგარიშების მოსაძებნად, რომლებიც ფარულად მიუთითებენ ადამიანებს ბავშვზე სექსუალური ძალადობის უკანონო მასალაზე. კომპანიამ წარმოადგინა ახალი დიდი ენობრივი მოდელის სისტემა, რომელიც ამოიცნობს იმას, რასაც თავად „მიმანიშნებლობას“ უწოდებს, ტაქტიკას, როცა რეკლამა უწყინარი ჩანს, მაგრამ ეჭვობენ, რომ მომხმარებლებს კონტენტისკენ ან ინტერნეტში სხვა აქტივობისკენ მიუთითებს. Meta-ს თქმით, ავი მოქმედი პირები ბოლო დროს ამ მიდგომას იყენებენ, რადგან მეთოდებს იცვლიან გამოვლენის თავიდან ასაცილებლად.

ვინაიდან თავად რეკლამებში შეიძლება უკანონო მასალა არ იყოს, Meta ამოწმებს, სად მიუთითებს რეკლამა მომხმარებლებს და არა მხოლოდ იმას, რას შეიცავს რეკლამა. კომპანიას შეუძლია ამ ინფორმაციის გამოყენება ვებგვერდების ან სხვა დანიშნულების ადგილების დასაბლოკად, რომლებიც მის წესებს არღვევს, და მათ უკან მდგარი ანგარიშების წინააღმდეგ ზომების მისაღებად. Meta ასევე ნერგავს დამატებით AI-ზე დაფუძნებულ სკანირებებს, რათა იპოვოს ბავშვთა ექსპლუატაციის კონტენტი, რომელიც ადრინდელმა სისტემებმა შეიძლება გამოტოვეს, და ამატებს ახალ სიგნალებს, როცა ამ ქსელების მუშაობის შესახებ მეტს იგებს.

„წითელი გუნდის“ აგენტი და განმეორებით დამრღვევთა გამოვლენა

კიდევ ერთი ახალი ინსტრუმენტია „წითელი გუნდის“ AI აგენტი, რომელიც ამოწმებს Meta-ს საკუთარ უსაფრთხოების ზომებს სისუსტეების მოძებნით, რომლებიც ავი მოქმედი პირების მიერ დაცვის გვერდის ავლით შეიძლება გამოყენებულ იქნას. Meta-ს თქმით, ეს დაეხმარება მას ბავშვებზე ძალადობის ახალი მეთოდების გამოვლენაში, სანამ ისინი უფრო გავრცელებული გახდება. კომპანია ასევე აუმჯობესებს სისტემებს იმ ადამიანების გამოსავლენად, რომლებიც თავიანთ პლატფორმებზე ახალი ანგარიშებით ბრუნდებიან მას შემდეგ, რაც წინა ანგარიშები წაიშალა.

ბავშვთა უსაფრთხოების უფრო ფართო ძალისხმევა

ეს ზომები მაშინ მიიღება, როცა Meta კვლავ აწყდება ზეწოლას პლატფორმებზე ბავშვთა უსაფრთხოების გამო, მათ შორის სასამართლო დავები და კრიტიკა. აგვისტოში Meta შეთანხმდა, რომ 18 მილიარდ დოლარამდე გადაიხადოს ბავშვთა უსაფრთხოების სასამართლო დავის დასარეგულირებლად, რომელშიც 29 აშშ-ის შტატი მონაწილეობდა. წლის დასაწყისში კომპანიამ წარმოადგინა მშობლის კონტროლი Meta AI-სთვის, წინამოზარდების ანგარიშები WhatsApp-ზე და მშობლებისთვის სიგნალები, როცა ბავშვები თვითდაზიანების კონტენტს ეძებენ. სექტემბერში WhatsApp-მა დაამატა კიდევ უფრო მეტი მშობლის კონტროლი, რაც მშობლებს საშუალებას აძლევს შეზღუდონ მოზარდების მიერ Channels-ის გამოყენება, აკონტროლონ, ვინ ხედავს სტატუსის განახლებებს, გადაწყვიტონ, ვის შეუძლია მათი შვილების ჯგუფებში დამატება, და მიიღონ შეტყობინებები ჯგუფის გარკვეული აქტივობის შესახებ.

წყაროები: Techmeme · Techcrunch