ცნობილი ადამიანების AI დიპფეიკები პლატფორმების წაშლის მიუხედავად ვრცელდება

ვერიფიცირებული ფანების ანგარიშები ცნობილი ადამიანების AI სურათებს ავრცელებენ

Instagram-ზე გავრცელებულმა სურათმა, რომელიც, სავარაუდოდ, მსახიობ მია გოთს ასახავს მაისურით წარწერით „MY EX IS MY BIGGEST FAN“, რამდენიმე დღეში დაახლოებით 500 000 მოწონება მოაგროვა, მიუხედავად იმისა, რომ ის ფანების ანგარიშიდან გამოქვეყნდა ლურჯი ნიშნით და მილიონზე მეტი გამომწერით. გოთის წარმომადგენელმა თქვა, რომ ანგარიშს ადრე ყალბი, AI სურათები გამოქვეყნებული ჰქონდა და აღნიშნა, რომ გასაკვირია, როცა ფანების ანგარიში ვერიფიკაციის უფლებას იღებს. Meta მომხმარებლებს ლურჯი ნიშნის ყიდვის საშუალებას აძლევს მაშინაც, როცა ანგარიშს ცნობილი ფიგურა არ მართავს.

Instagram-მა მოგვიანებით ანგარიში წაშალა საჯარო ფიგურის მიბაძვის გამო. პოსტი უკვე გავრცელებული იყო სელებრითების გოსიპ გამოცემებში, ხოლო Google-ის ძებნის შედეგებში გამოჩნდა AI-ით გენერირებული მიმოხილვა, რომელშიც ეწერა, რომ გოთი განქორწინების განცხადების შემდეგ შაია ლაბაფს აშკარად მიზანში იღებდა.

სექსუალიზებული დიპფეიკები კვლავ ადვილად მოსაძებნია

ანგარიშები, რომლებიც სკარლეტ იოჰანსონის, მილი ბობი ბრაუნის, ზენდეიასა და არიანა გრანდეს AI-ით გენერირებულ სურათებს აქვეყნებდნენ, კვლავ ადვილად მოსაძებნი იყო, რამდენიმე მათგანი კი ნაწილობრივ შიშველ ან სექსუალიზებულ პოზებს აქვეყნებდა. იოჰანსონის ერთი პროფილი რეკლამის საკონტაქტო ინფორმაციასთან ერთად Patreon-ისა და Telegram-ის გამოწერების ბმულებსაც შეიცავდა, სხვა ანგარიშები კი მის სახელსა და AI სურათს ზრდასრულთა კონტენტის პოპულარიზაციისთვის იყენებდნენ. მას შემდეგ, რაც The Verge-მა Meta-ს რვა ანგარიშის შესახებ ჰკითხა, სპიკერმა ალექს ძეძანმა თქვა, რომ ზოგიერთი მათგანი წაიშალა, მათ შორის გოთისა და იოჰანსონის გვერდები. მისი თქმით, Meta არ უშვებს, რომ ანგარიშები ვინმეს მსგავსებას მის სახელით წარდგენისთვის იყენებდნენ, ნამდვილი იქნება ეს თუ არა.

პლატფორმების წესები სურათებსა და მასშტაბთან დაკავშირებით ხარვეზებს ტოვებს

Meta რეალისტური ვიდეოებისა და AI-ით გენერირებული ხმებისთვის AI მარკირებას მოითხოვს, თუმცა სტატიკური სურათები გათავისუფლებულია, ამიტომ გოთის ყალბ სურათს გამჟღავნება არ დასჭირდებოდა. კომპანიამ ასევე დაამატა AI-ით გენერირებული პროფილის მარკირება ანგარიშებისთვის, რომელთა ავატარიც არ არსებობს. მიუხედავად ამისა, ანგარიშების მცირე ინდუსტრია აგრძელებს რეალური ადამიანების AI გამოსახულებების გავრცელებას, რომლებიც, როგორც ჩანს, ალგორითმს მოსწონს, დაწყებული AI პრემიერის ვიდეოებით და დამთავრებული ფასიანი კურსებით იმაზე, თუ როგორ გამოიმუშაონ ფული AI კონტენტით.

YouTube მსგავსების დეტექციას ვიზუალური დამთხვევებისთვის და, ცოტა ხნის წინ, ხმის მსგავსებისთვისაც იყენებს და აცხადებს, რომ ყველა ზრდასრული, რომელსაც YouTube-ის ანგარიში აქვს, დაფარულია. სპიკერმა ჯეკ მალონმა თქვა, რომ ინსტრუმენტი გასართობ ინდუსტრიასთან ერთად შეიქმნა და რომ YouTube-მა 2026 წლის პირველ ნახევარში მისი მეშვეობით შეტყობინებული ვიდეოების 95%-ზე მეტი წაშალა. 2025 წელს კანონად ხელმოწერილი Take It Down Act-ი თანხმობის გარეშე გავრცელებულ ინტიმურ გამოსახულებებს, AI კონტენტის ჩათვლით, კრიმინალიზებს და მოითხოვს მათ წაშლას 48 საათში, თუმცა ადამიანების AI გამოსახვასთან დაკავშირებული სამართლებრივი დავები ძირითადად მაინც პლატფორმის დონეზე წყდება.

წყაროები: The Verge