Հայտնի մարդկանց AI-դիպֆեյքները շարունակում են տարածվել հարթակների ջնջումների նկատմամբ

Վերիֆիկացված ֆան-հաշիվները տարածում են հայտնի մարդկանց AI-պատկերները

Instagram-ում հրապարակված պատկերը, որը, ըստ ենթադրության, դերասան Mia Goth-ին պատկերավորում է կապեղենով՝ „իմ նախկինս իմ ամենամեծ ֆանն է“, մի քանի օրում հավաքեց մոտ 500 000 հավանում, չնայած նրան, որ այն ֆան-հաշիվից տարածվեց կապույտ նշանով և միլիոնից ավելի բաժանորդով: Goth-ի ներկայացուցիչը ասաց, որ հաշիվը ավելի շուտ կեղծ, AI-ով ստեղծված պատկերներ էր հրապարակում և զարմանահրաշ էլ անվանեց, որ ֆան-հաշիվը ստացել է վերիֆիկացման կովկաս: Meta-ն թույլ է տալիս օգտատերերին գնել կապույտ նշաններ, նույնիսկ երբ հաշիվը կառավարում է հայտնի անձ:

Instagram-ը ուշ թվաց հաշիվը ջնջեց հանրային անձի ներկայացման պատճառով: Հրապարակումն այնքան տարածված էր հայտնի մարդկանց սենսացիոն հրապարակումներում, իսկ Google-ի որոնման արդյունքներում հայտնվեց AI-ով ստեղծված վերանայում, որտեղ ասվում էր, որ Goth-ը ամուսնանալու դիմումից հետո բացահայտորեն դատապատժում էր Shia LaBeouf-ին:

Սեքսուալացված դիպֆեյքները կրկին հեշտ են գտնվում

Հաշիվները, որոնք Scarlett Johansson-ի, Millie Bobby Brown-ի, Zendaya-ի և Ariana Grande-ի AI-ով ստեղծված պատկերներ էին հրապարակում, կրկին հեշտ գտնվելի էին; նրանցից մի քանիսը մասամբ մերկ կամ սեքսուալացված դիրքերում էին: Johansson-ի մեկ պրոֆիլը գովազդային կոնտակտային տեղեկություններ, ինչպես նաև Patreon-ի և Telegram-ի բաժանորդագրությունների հղումներ էր պարունակում, մյուս հաշիվները՝ իր անունն ու AI-պատկերը էին օգտագործում չափահասների բովանդակության գովազդի համար: Երբ The Verge-ը Meta-ին հարցրեց ութ հաշիվի մասին, խոսնակ Alex Dzidan-ը ասաց, որ նրանցից որոշները ջնջվել են, այդ թվում Goth-ի և Johansson-ի էջերը: Նա նշեց, որ Meta-ն չի թույլատրում հաշիվներին օգտագործել մեկի նմանությունը այդ անձի ներկայացնելու համար, անկախ նրանից, իրական է այն թե ոչ:

Հարթակների կանոններում մնում են պատկերների և սանդղակայնության խնդիրները

Meta-ը պահանջում է AI-նշում իրատես տեսանյութերի և AI-ձայների համար, իսկ ստատիկ պատկերները բացառություն են, ուստի Goth-ի կեղծ պատկերը բացահայտման կարիք չունեց: Ընկերությունը հաշիվներին ավելացրեց AI-ստեղծված պրոֆիլի պիտակներ, որոնց ավատարը գոյություն չունի: Սակայն փոքր, բայց ակտիվ արդյունաբերությունը շարունակում է տարածել իրական մարդկանց AI-պատկերներ, որոնք, ըստ ենթադրության, ալգորիթմի դեմքին են, AI-պրեմիերայի տեսանյութերից մինչև AI-բովանդակությամբ գումար վաստակելու թանկ դասընթացներ:

YouTube-ը նմանության հայտնաբերումն իրականացնում է տեսողական համընկնումների համար, իսկ որոշ ժամանակ առաջ՝ նաև նման ձայների համար, և հայտարարում է, որ բոլոր չափահասները, ովքեր YouTube-ի հաշիվ ունեն, ընդգրկված են: Հաղորդագրությունը Jack Malone-ի խոսքով, գործիքը ստեղծվել է ժամանակաշրջային արդյունաբերության հետ, և YouTube-ն 2026 թվականի առաջին կեսում ջնջել է հաղորդված տեսանյութերի 95 տոկոսից ավելին: 2025 թվականին ստորագրված Take It Down Act-ը ապականոնադրանք է դարձնում անկամական ինտիմ պատկերները, այդ թվում AI-բովանդակությունը, և պահանջում է ջնջել 48 ժամի ընթացքում, սակայն մարդկանց AI-պատկերների դեպքերը դատական հարցում դեռ հիմնականում ընթանում են հարթակի մակարդակով:

Աղբյուրներ: The Verge