WIRED-ը հայտնաբերել է 400+ մոլորեցնող ԱԲ հավելված՝ թաքնված սեռական խորը կեղծ գործիքներով

WIRED-ի հետաքննությունը պարզել է, որ 400-ից ավելի կապված դոմեններ ու հավելվածներ, որոնք հաճախ ներկայանում են որպես սովորական արհեստական բանականության ծառայություններ, կարող են գաղտնի բեռնել բացահայտ սեռական պատկերներ ու տեսանյութեր ստեղծելու ինտերֆեյսներ։ Հետազոտողները ցանցը հայտնաբերել են Meta-ի Facebook և Instagram հարթակներում բացահայտ deepfake բովանդակությամբ հազարավոր տեսանյութային գովազդներում հղումների ուսումնասիրությունից հետո։

Մոլորեցնող հավելվածներ և թաքնված վարքագիծ

Օրինակներից մեկը Viefur անունով կենդանիների դիմանկարի հավելվածն է, որը, կարծես, կենդանիների լուսանկարները վերածում է մարդակերպ դիմանկարների։ Հետազոտողների խոսքով՝ ցանցի հավելվածները կարող են սերվերային որոշումներ կայացնել՝ ցույց տալ անվնաս բովանդակություն, թե բեռնել բացահայտ deepfake վեբ ինտերֆեյս, օգտագործելով այնպիսի տեղեկություններ, ինչպիսիք են գտնվելու վայրը, լեզուն և եզակի նույնացուցիչը։ Համապատասխան Meta գովազդին սեղմելուց հետո հավելված ներբեռնելը երևում է որպես մեկ գործարկիչ։ WIRED-ի համաձայն՝ հավելվածները ներառում են բացահայտ ԱԲ տեսարաններ, ինչպիսիք են ննջասենյակային բռնաբարությունը և սպառնացող դանակը։

Մասշտաբ և հարթակների արձագանք

Հետազոտողները պարզել են, որ հավելվածները հրապարակվել էին մոտ մեկ տարի, երբեմն՝ շաբաթական տասնյակներով։ AI Forensics-ի Փոլ Բուշոն պարզել է, որ որոշ պահի շաբաթական մոտ 30 մերկացնող հավելված ու կայք էր գրանցվում, իսկ սեպտեմբերին Google Play-ում 27-ը ակտիվ էր։ Այդ հավելվածները համատեղ ներբեռնվել էին ավելի քան 350,000 անգամ, և շատերը գնահատվել էին բոլոր տարիքային խմբերի համար հարմար։ Մեկ հավելված՝ DiffAI-ն, ուներ ավելի քան 100,000 ներբեռնում։ Google-ը DiffAI-ն հեռացրել է WIRED-ի՝ ընկերությանը դիմելուց կարճ ժամանակ առաջ և դիմելուց առաջ հեռացրել էր հավելվածների մեծ մասը։ Apple-ը հեռացրել է 19 հավելված, այդ թվում՝ Viefur-ը, WIRED-ի՝ գործունեության մասին հարցումից հետո։ Apple-ի խոսնակ Ադամ Դեման ասել է, որ հավելվածները վերանայման ժամանակ համապատասխանում էին, սակայն մշակողները հետագայում փոխել են կայքը, որից հավելվածը բովանդակություն է քաշում։ Meta-ն ասել է, որ 2025 թվականին արգելել է KeLing Technology Limited-ին գովազդել և հետագայում գործողություններ է ձեռնարկել դոմեններին կապված հազարավոր գովազդային հաշիվների, էջերի ու օգտատերերի դեմ։

Չինական ծագում և ընկերության կապեր

WIRED-ը հայտնել է, որ հավելվածներն ու դոմենները, ըստ երևույթին, ղեկավարվում են չինացի մշակողների և Հոնկոնգում գրանցված KeLing Technology Limited կազմակերպության կողմից։ Infoblox-ի Մայել Լը Տուզը ասել է, որ ցանցը օգտագործում է բացառապես չինական հոսթինգ, չիներենով գրված կոդ և չիներեն մեկնաբանություններ։ Ընկերության անունը նշված էր ցանցում գրանցված առաջին կայքի կոնտակտային տվյալներում, իսկ բացահայտ deepfake ինտերֆեյսին կապված ադմինիստրատորի մուտքի էջում հիշատակվում է Keling։ Կազմակերպությանը, հավելվածներին ու հարակից ծառայություններին կապված էլեկտրոնային փոստի հասցեները չեն պատասխանել մեկնաբանության բազմակի խնդրանքներին։ WIRED-ի՝ կապ հաստատելուց հետո KeLing-ի և deepfake գործիքների միջև որոշ հրապարակային կապեր, ըստ երևույթին, ջնջվել են։

Աղբյուրներ: Wired