WIRED מצאה יותר מ-400 אפליקציות AI מטעות שמסתירות כלים לדיפ-פייק מיני

תחקיר של WIRED מצא שיותר מ-400 דומיינים ואפליקציות מחוברות, שלעיתים קרובות מציגים את עצמם כשירותי AI רגילים, יכולים לטעון בחשאי ממשקים ליצירת תמונות וסרטונים מיניים מפורשים באמצעות AI. החוקרים גילו את הרשת לאחר שחקרו קישורים באלפי פרסומות וידאו עם תוכן דיפ-פייק מפורש ב-Facebook וב-Instagram של Meta.

אפליקציות מטעות והתנהגות נסתרת

דוגמה אחת היא Viefur, אפליקציית דיוקנאות לחיות מחמד שנראית כמי שהופכת תמונות של חיות מחמד לדיוקנאות אנתרופומורפיים. החוקרים אומרים שאפליקציות ברשת יכולות לקבל החלטות בצד השרת אם להציג תוכן תמים או לטעון ממשק אינטרנט של דיפ-פייק מפורש, תוך שימוש במידע כמו מיקום, שפה ומזהה ייחודי. נראה שהורדת אפליקציה לאחר לחיצה על פרסומת קשורה של Meta היא אחד הגורמים המפעילים. לפי WIRED, האפליקציות כוללות סצנות AI מפורשות כמו אונס בחדר שינה ואיום עם סכין.

היקף ותגובת הפלטפורמות

החוקרים מצאו שהאפליקציות פורסמו במשך כשנה, לעיתים עשרות בשבוע. Paul Bouchaud מ-AI Forensics מצא שכשלושים אפליקציות ואתרים ליצירת עירום נרשמו בכל שבוע בשלב מסוים, כאשר 27 היו פעילים ב-Google Play בספטמבר. בסך הכול האפליקציות האלה הורדו יותר מ-350,000 פעמים, ורבות מהן דורגו כמתאימות לכל קבוצות הגיל. אפליקציה אחת, DiffAI, הורדה יותר מ-100,000 פעמים. Google הסירה את DiffAI זמן קצר לפני ש-WIRED פנתה לחברה, והסירה את רוב האפליקציות לפני שפנו אליה. Apple הסירה 19 אפליקציות, כולל Viefur, לאחר ש-WIRED שאלה על הפעילות. דובר Apple, Adam Dema, אמר שהאפליקציות עמדו בדרישות כשנבדקו, אך המפתחים שינו מאוחר יותר את האתר שממנו האפליקציה מושכת תוכן. Meta אמרה שהיא אסרה על KeLing Technology Limited לפרסם ב-2025, ולאחר מכן נקטה פעולה נגד אלפי חשבונות פרסום, דפים ומשתמשים שקשורים לדומיינים.

מקורות סיניים וקשרים לחברה

WIRED דיווחה שנראה שהאפליקציות והדומיינים מופעלים בידי מפתחים סיניים וישות רשומה בהונג קונג בשם KeLing Technology Limited. Maël Le Touz מ-Infoblox אמר שהרשת משתמשת באחסון סיני בלעדי, בקוד שנכתב בסינית ובהערות בסינית. שם החברה הופיע בפרטי הקשר של האתר הראשון שנרשם ברשת, ובדף התחברות לניהול שקשור לממשק הדיפ-פייק המפורש מוזכר Keling. כתובות דואר אלקטרוני שקשורות לישות, לאפליקציות ולשירותים קשורים לא הגיבו לבקשות חוזרות לתגובה. לאחר ש-WIRED פנתה אליהם, נראה שכמה קשרים פומביים בין KeLing לכלי הדיפ-פייק נמחקו.

מקורות: Wired