ადვოკატმა მკვლელობის საქმის გასაჩივრებაში ChatGPT-ის გამოგონილი მოწმეები მოიხსენია

ნიუ-მექსიკოს ადვოკატი სტივენ დ. აარონსი სასამართლომ უშუალო არაპატივისცემაში დამნაშავედ ცნო მას შემდეგ, რაც მან მკვლელობის საქმის გასაჩივრების დოკუმენტში ChatGPT-ის მიერ გამოგონილი მოწმეები და ჩვენებები წარადგინა. უზენაესი სასამართლოს გადაწყვეტილების მიხედვით, იურისტი ცოლის მკვლელობაში ბრალდებულ კაცს იცავდა, თუმცა მის დოკუმენტებში „სრულიად გამოგონილი მოწმეების“ ჩვენება იყო მოხსენიებული.

აარონსმა შეცდომა ხუთი მოსამართლის წინაშე გამართულ სხდომაზე აღიარა. „მცირე ნუგეშია, რომ ჩემი სისულელეა ის მიზეზი, რის გამოც დღეს აქ შევიკრიბეთ“, თქვა მან. მისივე თქმით, მას სჯეროდა, რომ ChatGPT პროცესის საიმედო შეჯამებას მოამზადებდა.

გამოგონილი მოწმეები და ჩვენებები

გადაწყვეტილებაში ნახსენებია დენი სტენტონი, რომელიც სინამდვილეში არ არსებობს და თითქოს მუქარის შესახებ იტყობინებოდა, ასევე ლინდა სტენტონი, რომელიც თითქოს ამბობდა, რომ მისი ქმარი მუქარას იღებდა. სხვა გამოგონილი ჩვენება მსროლელის ტანსაცმელსა და გარეგნობას ეხებოდა.

აარონსმა თქვა, რომ კლიენტს ChatGPT-ის გამოყენების შესახებ პირდაპირ არ უთქვამს. სხდომაზე მან განაცხადა, რომ მხოლოდ ოჯახის წევრებს ესაუბრა და უთხრა, რომ დოკუმენტთან პრობლემა იყო. მისივე თქმით, კლიენტთან დაკავშირება რთულია, რადგან ის ესპანურად საუბრობს და ციხეში სასჯელს იხდის. წელს ის ცოლის მკვლელობაში დამნაშავედ ცნეს.

რატომ ენდო ინსტრუმენტს

კითხვაზე, თუ რატომ დაეყრდნო ჩატბოტს იურიდიულ საქმეში, აარონსმა უპასუხა, რომ ექიმებზე ჰქონდა გაგონილი, რომლებიც AI-ს სამედიცინო კვლევისთვის იყენებენ. სექტემბერში საქმეზე სააგენტო Reuters-მა დაწერა; მას აარონსმა უთხრა: „ვნანობ, მაგრამ იმედი მაქვს, რომ დისციპლინური საბჭო მხედველობაში მიიღებს, რომ ეს გულწრფელი შეცდომა იყო“. მან დასძინა, რომ ეს გაკვეთილია ყველა პროფესიონალისთვის, რომელიც ამ ძლიერ, მაგრამ ზოგჯერ არასტაბილურ ტექნოლოგიას ეყრდნობა.

მოსამართლეები დარწმუნებულნი არ დარჩნენ. ერთმა მათგანმა აარონსს ჰკითხა: „ახალ ამბებს თუ უყურებთ? რადიოს თუ უსმენთ? კითხულობთ რამეს იმის შესახებ, რაც მსოფლიოში ხდება?“ შემდეგ მან აღნიშნა, რომ ადვოკატების მიერ AI-ის ჰალუცინაციებზე დაყრდნობა ყოველდღე ხვდება პირველ გვერდზე. მისი თქმით, არც განზრახ უცოდინრობა და არც რისკზე წასვლა არ შეესაბამება ქცევის კოდექსს.

სანქციები და უფრო ფართო პრაქტიკა

სასამართლომ აარონსი დისციპლინურ საბჭოს გადაუგზავნა, გამოძიების დასრულებამდე მისი სასამართლოში გამოცხადება აკრძალა, საქმიდან ჩამოაშორა და ყოფილ კლიენტს საჯარო დამცველი დაუნიშნა. გარდა ამისა, მას 5000 დოლარის ჯარიმა დააკისრა, რომელიც ნიუ-მექსიკოს ადვოკატთა ასოციაციის კლიენტთა დაცვის ფონდში უნდა შეიტანოს.

ეს შემთხვევა AI-ის მიერ მომზადებულ დოკუმენტებთან დაკავშირებული სანქციების რიგში კიდევ ერთია. მაისში ნიუ-იორკის უზენაესი სასამართლოს სააპელაციო განყოფილების მოსამართლეებმა რამდენიმე ადვოკატს AI-ის გამოყენების გამო 20 წუთზე მეტხანს უსაყვედურეს და მათი ნაკლოვანებები „თვალშისაცემი, შემაშფოთებელი, იმედგამაცრუებელი და სამწუხარო“ უწოდეს. AI-ის მიერ შექმნილი შეცდომები სასამართლო რეპორტიორებთანაც დაფიქსირდა.