Діпфейки відомих людей поширюються незважаючи на видалення платформами

Підтверджені фан-акаунти поширюють AI-зображення відомих людей

Зображення, поширене в Instagram, яке, ймовірно, зображає акторку Міа Гот у футболці з написом „MY EX IS MY BIGGEST FAN“, за кілька днів зібрало близько 500 000 лайків, незважаючи на те, що його опублікували з фан-акаунту з синьою галочкою та понад мільйоном підписників. Представник Гот сказав, що раніше на акаунті публікували фейкові AI-зображення, і зазначив, що дивується, коли фан-акаунт отримує право верифікації. Meta дає користувачам купувати синю галочку, навіть якщо акаунт не веде відома особа.

Пізніше Instagram видалив акаунт за імітацію публічної персони. Допис уже був поширений у виданнях жовничих новин про знаменитостей, а в результатах пошуку Google з’явився AI-генерований огляд, у якому йшлося, що після заяви про розлучення Гот відкрито націлювалася на Шая Лабафа.

Сексуалізовані діпфейки знову легко знайти

Акаунти, які публікували AI-генеровані зображення Скарлетт Йоганссон, Мілі Бобі Браун, Зендеї та Аріани Гранде, знову були легко знайдені, деякі з них були орієнтовані на частково голі або сексуалізовані пози. Один профіль Йоганссон, окрім контактної інформації для реклами, містив також посилання на підписки Patreon і Telegram, інші акаунти використовували її ім’я та AI-зображення для популяризації контенту для дорослих. Після того як The Verge запитав про вісім акаунтів Meta, спікер Алекс Дзедзан сказав, що деякі з них видалено, зокрема сторінки Гот і Йоганссон. За його словами, Meta не допускає, щоб акаунти використовували чиюсь подібність для представлення під цим ім’ям, незалежно від того, справжня вона чи ні.

Правила платформ щодо зображень і масштабу мають прогалини

Meta вимагає AI-маркування для реалістичних відео і AI-генерованих голосів, однак статичні зображення звільнені, тому фейкове зображення Гот не потребувало виявлення. Компанія також додала маркування AI-генерованих профілів для акаунтів, які також не мають аватара. Незважаючи на це, мала індустрія акаунтів продовжує поширювати AI-зображення реальних людей, які, схоже, подобаються алгоритму, від відео AI-прем’єр до дорогих курсів про те, як заробляти гроші на AI-контенті.

YouTube використовує виявлення подібності для візуальних випадків і, нещодавно, для подібності голосів, і заявляє, що охоплені всі дорослі, у яких є акаунт YouTube. Спікер Джек Малоун сказав, що інструмент створено разом з індустрією розваг і що YouTube за перше півріччя 2026 року видалив понад 95% відео, на які посилалися, завдяки йому. Закон Take It Down Act, підписаний у 2025 році, криміналізує поширення інтимних образів без згоди, включно з AI-контентом, і вимагає їх видалення протягом 48 годин, хоча юридичні спори, пов’язані з AI-зображеннями людей, все одно здебільшого вирішуються на рівні платформи.

Джерела: The Verge