Meta-ն նոր AI գործիքներ է ներկայացրել երեխաների սեքսուալ շահագործման նյութերին առաջնորդող գովազդները հայտնաբերելու համար

Meta-ը չորեքշաբթի հայտարարեց, որ 2026 թվականի առաջին կեսում Facebook-ում և Instagram-ում միջոցներ է ձեռնարկել 33,2 միլիոն երեխաների սեքսուալ շահագործման բովանդակության դեմ: Ընկերության խոսքով, այդ բովանդակության 97%-ից ավելին իրենց համակարգերով են հայտնաբերել, նախքան օգտատերերը տեղեկացնելը: Հնդկաստանում Meta-ը նույն ժամանակահատվածում գործողություն է դիմել 5,3 միլիոն այդպիսի բովանդակության դեմ, և դրանցից 98%-ից ավելին օգտատերերին ծանուցելուց առաջ է հայտնաբերվել:

Նոր AI գործիքներ «ուղղորդիչ» գովազդները հայտնաբերելու համար

Կատարման վիճակագրության հետ մեկտեղ Meta-ն ներդնում է AI գործիքներ, որոնք նախատեսված են գովազդների և հաշիվների որոնելու համար, որոնք թաքնված կերպով ցույց են տալիս մարդկանց երեխայի նկատմամբ սեքսուալ բռնության օրինական նյութերին: Ընկերությունը ներկայացրել է նոր մեծ լեզվական մոդելի համակարգ, որը ճանաչում է այն, ինչ ինքը «ուղղորդում» է անվանում, տակտիկան, երբ գովազդը աննկատ է թվում, բայց կասկածում են, որ այն օգտատերերին բովանդակության կամ ինտերնետում այլ գործունեության է ցույց տալիս: Meta-ի խոսքով, ակտիվ գործող անձինք վերջին ժամանակ այս մոտեցումն են օգտագործում, քանի որ մեթոդները փոխում են հայտնաբերման կանխարգելու համար:

Քանի որ գովազդներում ինքնին կարող է օրինական նյութ չլինել, Meta-ը ստուգում է, թե որտեղ է գովազդը ցույց տալիս օգտատերերին, և ոչ միայն այն, ինչ պարունակում է գովազդը: Ընկերությունը կարող է օգտագործել այս տեղեկատվությունը վեբ կայքերի կամ այլ նախատեսված վայրերի արգելափակելու համար, որոնք խախտում են իր կանոնները, և դրանց հետեւում գտնվող հաշիվների դեմ միջոցներ ձեռնարկելու համար: Meta-ը նաև ներդնում է լրացուցիչ AI-ի վրա հիմնված սկանավորումներ՝ գտնելու երեխաների շահագործման բովանդակությունը, որը վաղ համակարգերը կարող են բաց թողնել, և ավելացնում է նոր ազդանշաններ, երբ այդ ցանցերի աշխատանքի մասին ավելին է հայտնաբերում:

«Կարմիր թիմի» գործակալը և կրկնակի խախտողների հայտնաբերումը

Դեռ մեկ նոր գործիք է «կարմիր թիմի» AI գործակալը, որը ստուգում է Meta-ի սեփական անվտանգության միջոցները թերություններ որոնելով, որոնք ակտիվ գործող անձանց կողմից պաշտպանության ճանապարհով կարող են օգտագործվել: Meta-ի խոսքով, սա կօգնի նրան հայտնաբերել երեխաների նկատմամբ բռնության նոր մեթոդները, նախքան դրանք ավելի տարածված դառնալը: Ընկերությունը նաև բարելավում է համակարգերը այն մարդկանց հայտնաբերելու համար, որոնք իրենց հարթակներում նոր հաշիվներով են վերադառնում այն բանից հետո, երբ նախորդ հաշիվները հեռացվել են:

Երեխաների անվտանգության ավելի լայն ջանքեր

Այս միջոցները ընդունվում են այն ժամանակ, երբ Meta-ը կրկին բախվում է ճնշման հարթակներում երեխաների անվտանգության հարցում, այդ թվում դատական վեճեր և քննադատություն: Օգոստոսում Meta-ը համաձայնվեց մինչև 18 միլիարդ դոլար վճարել երեխաների անվտանգության դատական վեճի լուծման համար, որին մասնակցել է 29 ԱՄՆ նահանգ: Տարվա սկզբում ընկերությունը ներկայացրել է ծնողի վերահսկում Meta AI-ի համար, երեխաների հաշիվները WhatsApp-ում և ազդանշաններ ծնողների համար, երբ երեխաները ինքնավնասման բովանդակություն են փնտրում: Սեպտեմբերում WhatsApp-ը ավելացրեց ավելի շատ ծնողի վերահսկում, որը ծնողներին հնարավորություն է տալիս սահմանափակել երեխաների կողմից Channels-ի օգտագործումը, վերահսկել, թե ով է տեսնում կարգավիճակի թարմացումները, որոշել, թե ում կարող է իրենց երեխաների խմբերում ավելացնել, և ստանալ ծանուցումներ խմբի որոշակի ակտիվության մասին:

Աղբյուրներ: Techmeme · Techcrunch