კვლევა: AI-ის რჩევაზე წვდომა ადამიანებს „არ ვიცი“-ს თქმის სურვილს თითქმის ართმევს

ახალი კვლევის მიხედვით, რომელიც arXiv-ის პრეპრინტების სერვერზე გამოქვეყნდა, AI-ის რჩევაზე უბრალო წვდომაც კი ადამიანებს „არ ვიცი“-ს თქმის სურვილს თითქმის ართმევს. კვლევა ჯერ მხოლოდ პრეპრინტია და დამოუკიდებელი რეცენზირება არ გავლია.

ხუთ ექსპერიმენტში, რომლებშიც სულ 3132 ადამიანი მონაწილეობდა, მოხალისეებმა ექვს რთულ კითხვას უპასუხეს. პასუხზე უარის თქმა მათ ყოველთვის შეეძლოთ. კითხვები ფილმების წვრილ ვიზუალურ დეტალებს ეხებოდა, მაგალითად, ერთ-ერთი გუნდის ფორმის ფერს ფილმში „Bend It Like Beckham“.

მკვლევრებმა ისინი განზრახ ისე შეარჩიეს, რომ გამოყენებული მოდელი თითქმის ყოველთვის ცდებოდა. ასეთი დეტალები ინტერნეტტექსტებში იშვიათად გვხვდება, ამიტომ ჰალუცინაციის კარგი სამიზნეა. ამით ავტორებმა AI-ის გამოყენება მისი სიზუსტისგან გამოაცალკევეს და შეამოწმეს, რა ხდება მაშინ, როცა რჩევა მცდარია. კვლევის ავტორები არიან ჩიარა მარკოჩია, ვალტერ კვატროჩიოკი და ვალერიო კაპრარო.

„არ ვიცი“ თითქმის გაქრა

პირველ ექსპერიმენტში AI-ის გარეშე მომუშავე მონაწილეებმა პასუხზე უარი 36% შემთხვევაში თქვეს, რჩევაზე წვდომის მქონეებმა კი მხოლოდ 6%-ში. დამოუკიდებელ გამეორებაში მაჩვენებლები 44% და 3% იყო.

საერთო შედეგებით, მარტო მომუშავეებმა კითხვების 27,5% შეძლეს სწორად, AI-ის რჩევით კი მხოლოდ 9,2%. ამავდროულად მათი თავდაჯერებულობა თითქმის გაორმაგდა. თანაავტორის, ვალერიო კაპრაროს თქმით, სიზუსტე სამჯერ დაეცა, თავდაჯერებულობა კი 2,5-ჯერ გაიზარდა.

ფული სიფრთხილის ნაწილს აბრუნებს

სამ ექსპერიმენტში მკვლევრებმა სწორი პასუხი ფულად დააჯილდოვეს, არასწორი დასაჯეს, პასუხზე უარს კი არაფერი მოჰყვა. ამ პირობებში მონაწილეები ნაკლებად ეძებდნენ და მიჰყვებოდნენ AI-ის რჩევას, უფრო ზუსტად პასუხობდნენ და ორ ექსპერიმენტში უფრო ხშირად თაკილობდნენ პასუხს.

მიუხედავად ამისა, AI-ზე წვდომის მქონეები მაინც გაცილებით ნაკლებად ამბობდნენ „არ ვიცი“, ვიდრე AI-ის გარეშე მომუშავეები. ავტორების შეფასებით, წახალისება დანაკარგის მხოლოდ ნაწილს აბრუნებს, თუმცა არასანდო რჩევისადმი წინააღმდეგობის უნარი მთლიანად არ ქრება.

რას ნიშნავს ეს პრაქტიკაში

მკვლევრებმა ეფექტის მიზეზი ვერ დაადგინეს. ერთი ვარაუდით, AI-ის პასუხი ამცირებს მეტაკოგნიტურ ზღურბლს, ანუ თვითრწმენის იმ დონეს, რომელიც ადამიანს პასუხის გასაცემად სჭირდება.

ეფექტი შენარჩუნდა მაშინაც, როცა მონაწილეები რჩევას არ ითხოვდნენ და ის ავტომატურად ჩნდებოდა. ეს მნიშვნელოვანია საძიებო სისტემების შეჯამებების, წერის ასისტენტებისა და ავტომატური შემოთავაზებების ეპოქაში: მოუთხოვნელი AI-ის რჩევა ადამიანს მაშინაც კი უბიძგებს პასუხისკენ, როცა ჯობია შეჩერდეს და გაურკვევლობა აღიაროს.

IBM Think-თან ინტერვიუში კაპრარომ თქვა: „ეჭვი ცოდნის მარცხი არ არის. ხშირად სწორედ იქ იწყება ცოდნა“.

ავტორები აღნიშნავენ, რომ კითხვები ბუნდოვანი იყო, ფინანსური სტიმული მცირე, მოდელი კი განზრახ სუსტი. შედეგები შეიძლება სხვაგვარი იყოს, როცა AI ჩვეულებრივ ზუსტია ან როცა გადაწყვეტილებას სერიოზული შედეგები მოჰყვება.