Meta представила нові AI-інструменти для виявлення реклами, що веде до матеріалів сексуального насильства над дітьми

Meta в середу заявила, що за перше півріччя 2026 року на Facebook та Instagram вжила заходів щодо 33,2 мільйонів одиниць контенту сексуальної експлуатації дітей. За словами компанії, понад 97% цього контенту було виявлено її ж системами до того, як користувачі повідомили про нього. В Індії Meta за той самий період вжила заходів щодо 5,3 мільйонів таких одиниць контенту, і понад 98% з них було виявлено до повідомлень користувачів.

Нові AI-інструменти для виявлення «напрямних» рекламних оголошень

Разом зі статистикою виконання Meta активує AI-інструменти, призначені для пошуку рекламних оголошень та акаунтів, які приховано спрямовують людей до незаконних матеріалів сексуального насильства над дітьми. Компанія представила нову систему великої мовної моделі, яка розпізнає те, що сама називає «напрямністю» — тактику, коли реклама виглядає безпечною, але викликає підозру, що вона спрямовує користувачів до контенту або до іншої активності в інтернеті. За словами Meta, зловмисні особи в останній час все частіше використовують цей підхід, оскільки методи змінюються, щоб уникнути виявлення.

Оскільки в самих рекламних оголошеннях незаконний контент може відсутній, Meta перевіряє, куди саме реклама спрямовує користувачів, а не лише те, що вона містить. Компанія може використовувати цю інформацію для блокування вебсайтів або інших ресурсів, які порушують її правила, а також для застосування заходів до пов'язаних з ними акаунтів. Meta також активує додаткові системи сканування на основі AI, щоб знаходити контент експлуатації дітей, який міг бути пропущений попередніми системами, і додає нові сигнали, коли дізнається більше про роботу цих мереж.

AI-агент «червоної команди» та виявлення повторних порушників

Ще одним новим інструментом є AI-агент «червоної команди», який перевіряє заходи безпеки Meta на наявність слабких місць, які можуть бути використані зловмисними особами для обходу захисту. За словами Meta, це допоможе їй виявляти нові методи насильства над дітьми до того, як вони стануть більш поширеними. Компанія також вдосконалює системи для виявлення людей, які повертаються на її платформи з новими акаунтами після видалення попередніх.

Ширі зусилля щодо безпеки дітей

Ці заходи вживаються в той час, як Meta зіткнулася з тиском щодо безпеки дітей на платформах, включаючи судові позови та критику. У серпні Meta погодилася виплатити до 18 мільярдів доларів для врегулювання судової справи щодо безпеки дітей, в якій брали участь 29 штатів США. На початку року компанія представила батьківський контроль для Meta AI, акаунтів підлітків у WhatsApp та повідомлення для батьків, коли діти шукають контент самоушкодження. У вересні WhatsApp додав ще більше функцій батьківського контролю, які дозволяють батькам обмежувати використання Channels підлітками, контролювати, хто бачить оновлення статусу, вирішувати, кого можна додавати до груп їхніх дітей, та отримувати повідомлення про певну активність у групі.

Джерела: Techmeme · Techcrunch