Meta הציגה כלי AI חדשים לגילוי מודעות שמפנות בסתר לחומרים של תקיפה מינית של ילדים

Meta הצהירה ביום רביעי כי במחצית הראשונה של 2026 נקטה צעדים נגד 33.2 מיליון תכנים של ניצול מיני של ילדים ב-Facebook וב-Instagram. לפי החברה, יותר מ-97% מהתכנים הללו זוהו על ידי המערכות שלה עצמה לפני שהמשתמשים דיווחו עליהם. בהודו, Meta פעלה באותה תקופה נגד 5.3 מיליון תכנים כאלה, ומתוכם יותר מ-98% נמצאו לפני דיווח משתמשים.

כלי AI חדשים לגילוי מודעות "מפנות"

לצד סטטיסטיקות האכיפה, Meta משקיעה בכלי AI שנועדו לאתר מודעות וחשבונות שמפנים בסתר אנשים לחומרים לא חוקיים של תקיפה מינית של ילדים. החברה הציגה מערכת חדשה של מודל שפה גדולה שמזהה את מה שהיא מכנה "הפנייה", טקטיקה שבה המודעה נראית פחות חשודה, אך מעלה חשד שהיא מפנה משתמשים לתכנים או לפעילות אחרת באינטרנט. לפי Meta, גורמים זדוניים משתמשים בגישה זו בימים אלה, מכיוון שהם משנים שיטות כדי להתחמק מגילוי.

מכיוון שעצם המודעות עשויות לא להכיל חומר לא חוקי, Meta בודקת לאן המודעה מפנה משתמשים ולא רק מה היא מכילה. החברה יכולה להשתמש במידע זה כדי לחסום אתרים או יעדים אחרים שמפרים את הכללים שלה, ולנקוט צעדים נגד החשבונות שעומדים מאחוריהם. Meta משקיעה גם בסריקות נוספות מבוססות AI כדי למצוא תכנים של ניצול ילדים שמערכות קודמות עשויות להחמיץ, ומוסיפה אותות חדשים כשהיא לומדת יותר על אופן פעולתם של רשתות אלו.

סוכן "הצוות האדום" וגילוי מפרים חוזרים

כלי נוסף הוא סוכן AI של "הצוות האדום", שבודק את אמצעי האבטחה של Meta על מנת למצוא פרצות שגורמים זדוניים עשויים לנצל עקף את ההגנות. לפי Meta, זה יעזור לגלות שיטות חדשות של אלימות כלפי ילדים לפני שהן יתפרסו יותר. החברה משפרת גם את המערכות לגילוי אנשים שחוזרים לפלטפורמות שלה עם חשבונות חדשים לאחר שהחשבונות הקודמים שלהם נמחקו.

מאמץ רחב יותר לבטחון ילדים

צעדים אלה ננקטים בזמן ש-Meta ממשיכה להיתקל בלחץ בנושא בטחון ילדים בפלטפורמות, כולל תביעות משפטיות וביקורת. באוגוסט Meta הסכימה לשלם עד 18 מיליארד דולר להסדרת תביעה משפטית בנושא בטחון ילדים בהשתתפות 29 מדינות ארה"ב. בתחילת השנה החברה הציגה בקרת הורים עבור Meta AI, חשבונות נערים ב-WhatsApp והתראות להורים כשילדים מחפשים תכנים של פגיעה עצמית. בספטמבר WhatsApp הוסיף עוד בקרת הורים, שמאפשרת להורים להגביל את השימוש של בני הנוער ב-Channels, לשלוט במי רואה עדכוני סטטוס, להחליט מי יכול להוסיף את ילדיהם לקבוצות, ולקבל התראות על פעילות מסוימת בקבוצה.

מקורות: Techmeme · Techcrunch