WIRED виявила 400+ оманливих ШІ-додатків, що приховують інструменти сексуальних діпфейків

Розслідування WIRED виявило, що понад 400 пов’язаних доменів і додатків, які часто позиціонують себе як звичайні ШІ-сервіси, можуть непомітно завантажувати інтерфейси для створення явних сексуальних зображень і відео зі ШІ. Дослідники виявили мережу після перевірки посилань у тисячах відеореклам з явним діпфейк-контентом у Facebook та Instagram від Meta.

Оманливі додатки та прихована поведінка

Один приклад, додаток для портретів домашніх тварин під назвою Viefur, нібито перетворює фото тварин на антропоморфні портрети. Дослідники кажуть, що додатки в мережі можуть ухвалювати на сервері рішення про те, показувати нешкідливий контент чи завантажувати явний діпфейк-вебінтерфейс, використовуючи таку інформацію, як місцезнаходження, мова та унікальний ідентифікатор. Завантаження додатка після натискання на пов’язану рекламу Meta виглядає як один із тригерів. Додатки містять явні сцени зі ШІ, зокрема зґвалтування в спальні та погрозу ножем, за даними WIRED.

Масштаб і реакція платформ

Дослідники виявили, що додатки публікувалися приблизно рік, часом по кілька десятків на тиждень. Пол Бушо з AI Forensics виявив, що в певний момент щотижня реєструвалося близько 30 додатків і сайтів для створення оголених зображень, а у вересні 27 із них були активними в Google Play. Ці додатки були завантажені загалом понад 350 000 разів, і багато з них були оцінені як придатні для всіх вікових груп. Один додаток, DiffAI, мав понад 100 000 завантажень. Google видалив DiffAI незадовго до того, як WIRED звернулася до компанії, і видалив більшість додатків до звернення. Apple видалила 19 додатків, зокрема Viefur, після запиту WIRED щодо цієї діяльності. Речник Apple Адам Дема сказав, що додатки відповідали вимогам під час перевірки, але розробники пізніше змінили вебсайт, з якого додаток завантажує контент. Meta заявила, що заборонила KeLing Technology Limited рекламуватися у 2025 році, а згодом вжила заходів проти тисяч рекламних акаунтів, сторінок і користувачів, пов’язаних із доменами.

Китайське походження та зв’язки компанії

WIRED повідомила, що додатки та домени, ймовірно, керуються китайськими розробниками та зареєстрованою в Гонконгу компанією KeLing Technology Limited. Маель Ле Ту з Infoblox сказав, що мережа використовує виключно китайський хостинг, код, написаний китайською, та коментарі китайською. Назва компанії була вказана як контактні дані для першого вебсайту, зареєстрованого в мережі, а сторінка входу до адміністрування, пов’язана з явним діпфейк-інтерфейсом, згадує Keling. Електронні адреси, пов’язані з компанією, додатками та пов’язаними сервісами, не відповіли на численні запити про коментар. Після звернення WIRED деякі публічні зв’язки між KeLing й інструментами діпфейків, здається, були стерті.

Джерела: Wired