კვლევა: ChatGPT-ისა და Gemini-ის პასუხებში თაღლითური ნომრები ჩნდება

უსაფრთხოების მკვლევრებმა აღმოაჩინეს, რომ თავდამსხმელები ChatGPT-ის, Gemini-ისა და Google AI Overview-ის პასუხებს ყალბი საკონტაქტო ინფორმაციით „ასხამენ“ და მომხმარებლებს თაღლითურ ნომრებზე გადაჰყავთ. კვლევა არიელ სიმონმა Medium-ზე გამოაქვეყნა — ეს AI-ის დეზინფორმაციაზე მიძღვნილი სერიის პირველი ნაწილია.

რა აღმოაჩინეს მკვლევრებმა

არიელ სიმონმა და ოთხმა კოლეგამ სისტემა ააგო, რომელიც სამივე AI სისტემის პასუხებსა და წყაროებს აანალიზებს და ყალბი ნომრის, ბმულის ან ელფოსტის ციტირების შემთხვევებს აღრიცხავს. თავდასხმა 374 კომპანიაზე მიმდინარეობს — მათ შორის Fortune 100-ის ორგანიზაციებზე, ავიაკომპანიებზე (Delta, Lufthansa, Emirates), ბანკებზე (Bank of America, Chase) და პლატფორმებზე (Airbnb, TripAdvisor). სულ ათიათასობით მავნე გვერდი დაფიქსირდა. Exploding Topics-ის კვლევით, მომხმარებლების 92% AI-ის პასუხებს არ ამოწმებს.

როგორ მუშაობს თავდასხმა

ატეხილი კონტენტი GEO (Generative Engine Optimization) ტექნიკითაა აწყობილი — SEO-ს განვითარებული ვერსია, რომელიც განსაზღვრავს, რომელ წყაროს გამოიყენებს AI. პოსტებში თაღლითური ნომერი მეორდება და ემატება ფრაზები, როგორიცაა „დარეკეთ ახლავე“ ან „24/7“. ციფრებს შორის თავდამსხმელები გამოტოვებებს, წერტილებსა და ემოჯის სვამენ: სპამის ფილტრები ნომერს ვერ ცნობენ, AI კი იგივე მნიშვნელობას კითხულობს.

იგივე ტექსტი სოციალურ ქსელებში, უნივერსიტეტების PDF-ებსა და Google Sites-ზე კოპირდება. თავად კონტენტი პანიკას ეყრდნობა — ფულის დაბრუნება, გაუქმებული რეისები, დაბლოკილი ანგარიშები, — რომ მომხმარებელმა ოფიციალური საიტის შემოწმების ნაცვლად მაშინვე დარეკოს.

წაშლა ვერ ეწევა

კამპანიები ავტომატიზებულია: ერთი კომპანიის წინააღმდეგ დღეში ათასობით გვერდი ქვეყნდება. ერთი გვერდის წაშლას საათები ან დღეები სჭირდება, ამ დროს კი ათასი ახალი ჩნდება. archive.org-ის ასლები საძიებო სისტემებში რჩება, ამიტომ ყალბი ინფორმაცია წაშლის შემდეგაც მოქმედებს. LeetCode-ზე American Airlines-ის წინააღმდეგ გამოქვეყნებულმა პოსტებმა 24 საათში Google-ის შედეგების 10 გვერდზე მეტი დაიკავა.

რას ამბობენ კომპანიები და სერვისები

მკვლევრებმა დაზარალებულ კომპანიებს bug bounty-ის, თაღლითობისა და უსაფრთხოების არხებით დაუკავშირდნენ. უმეტესობამ მასშტაბი არ იცოდა, ნაწილმა კი პრობლემა უგულებელყო. Google-მა საკითხი ჯილდოს პროგრამის ფარგლებს გარეთ დატოვა. OpenAI-მა ანგარიში დახურა, რადგან ვერ შეძლო მისი გამრავლება. მკვლევრების თქმით, კამპანიები კომპანიებს შემოსავალსა და რეპუტაციას აზარალებს.