AI-ის ჰალუცინაციები: მომხმარებლები ChatGPT-ს პერსონალზე მეტად ენდობიან

The Verge-მა 2 ოქტომბერს რეპორტაჟი გამოაქვეყნა იმაზე, თუ როგორ ცვლის AI-ის ჰალუცინაციები მომსახურების სფეროს. სერვისის თანამშრომლების თქმით, მომხმარებლები ChatGPT-ს პასუხებს სარწმუნო ინფორმაციად აღიქვამენ და თანამშრომლებს მაშინაც ეკამათებიან, როცა ინფორმაცია მცდარია. გამოცემის აზრით, გენერატიული AI-ის მასობრივი გავრცელება ცვლის წესს, რომ მომხმარებელი ყოველთვის მართალია.

ალერგიის გაფრთხილება და მოგონილი ღვინოები

მედისონი (Madison), ნიუ-იორკის რესტორნის ოფიციანტი, ყოველ მაგიდას ალერგიაზე ეკითხება. კიბოსნაირებზე ალერგიის მქონე კლიენტებმა ბოლო დროს ისეთი კერძი შეუკვეთეს, რომლის ბულიონიც კიბოსნაირებისგან მზადდება. გაფრთხილების მიუხედავად, ისინი ChatGPT-ს იშველიებენ: „კიბოსნაირებზე ალერგია გაქვთ, ChatGPT კი ამბობს, რომ კერძში კიბოსნაირები არ არის, ჩვენ კი ვამბობთ, რომ არის!“

Michelin-ის რეკომენდაციის მქონე იტალიურ რესტორანში სტუმრები ღვინის შესახებ სომელიეს ნაცვლად ChatGPT-ს ეკითხებიან. სომელიეს დახმარების შეთავაზებაზე ხშირად პასუხია: „მე უბრალოდ ChatGPT-ს ვკითხავ“. ზოგი ისეთ ღვინოს ითხოვს, რომელიც არ არსებობს. თანამშრომლები შედეგს რბილად აცნობენ და ამბობენ, რომ ღვინის სია ძალიან სპეციფიკურია, ნაცვლად იმისა, რომ პირდაპირ უთხრან, ჩატბოტმა ბრენდი მოიგონა.

მოგონილი ბანაკები და ძილის გრაფიკი

პრობლემა რესტორნებით არ შემოიფარგლება. მდინარის რეინჯერი ჯეისონი (Jason) ფედერალურ მიწებზე მუშაობს და ამბობს, რომ პარკში უფრო ხშირად მოდიან ვიზიტორები AI-ის მიერ შედგენილი მარშრუტებით, სადაც ბანაკები მოგონილია და ლოკაციები არასწორადაა დალაგებული. „AI-ის მომხმარებელთა გარკვეული ნაწილი ChatGPT-ს რეინჯერებზე, რუკებსა და ბეჭდურ გიდებზე მეტად ენდობა“, ამბობს ის. ზოგიერთ ჯგუფს ეჭვი მაშინაც არ ეპარება, როცა რეინჯერი შეცდომას რუკაზე უჩვენებს.

კეისი (Casey), ნიუ-იორკის სკოლისშემდგომი პროგრამის მასწავლებელი, ამბობს, რომ მშობლები ბავშვის განვითარების კითხვებზე უფრო ხშირად ChatGPT-ს ან Claude-ს ეკითხებიან. ერთ ოჯახს ChatGPT-მ ძილის რეჟიმი შეუდგინა, თუმცა ბავშვს არ ეძინა საკმარისად; კეისის შეფასებით, მას 2-3 საათით მეტი ძილი სჭირდებოდა, მშობლები კი ამტკიცებდნენ, რომ ChatGPT-ის გრაფიკი სწორია.

AI აგენტები ჯავშნის მოთხოვნებში

ლორენ უილფორდი (Lauren Wilford) კვების სფეროში 15 წელია მუშაობს: მისი თქმით, სტუმრები მენიუს ფოტოს ChatGPT-ს ან Claude-ს უტვირთავენ და რჩევას ოფიციანტის ნაცვლად ჩატბოტისგან იღებენ. მისი რესტორანი ჯავშნის მოთხოვნებს AI აგენტებისგანაც იღებს. უილფორდი გაოცდა: კლიენტი, რომელიც ჩვეულებრივ დეტალებში არ ერეოდა, ღონისძიების წინა დღეს ტრიბუნებსა და AV აპარატურას ითხოვდა, რომელიც პროვიდენსის რესტორანს არ ჰქონდა. მეორე დღეს კლიენტები მოვიდნენ და მოთხოვნები არ უხსენებიათ; უილფორდს ეჭვი აქვს, რომ ისინი AI აგენტმა გაგზავნა.

რატომ არის ეს მნიშვნელოვანი

სურათი უფრო ფართოა: კინოთეატრების, ბარისტებისა და Apple Store-ის თანამშრომლებს მომხმარებლები ისეთ პროდუქტებს სთხოვენ, რომლებიც არ არსებობს, Reddit-სა და X-ზე კი კლიენტები ChatGPT-ის პასუხებს უპირობოდ ენდობიან. გამოცემის შეფასებით, Meta-ს ახალი AI აგენტის, Muse-ის, გაშვება პრობლემას კიდევ უფრო გააძლიერებს. უილფორდი ამბობს, რომ AI აგენტების გამოყენების მიზეზებს იზიარებს, თუმცა განსაკუთრებით ღირებულია მომენტი, როცა ორი ადამიანი პრობლემას ერთად წყვეტს.