Avukat cinayet davasının temyizinde ChatGPT'nin uydurduğu tanıkları kullandı

New Mexico'lu avukat Stephen D. Aarons, bir cinayet davasının temyiz dilekçesinde ChatGPT tarafından uydurulmuş tanıkları ve ifadeleri sunduğu için mahkeme tarafından doğrudan mahkemeye saygısızlıktan suçlu bulundu. Yüksek Mahkeme kararına göre avukat, karısını öldürmekle suçlanan bir adamı savunuyordu, ancak belgelerinde „tamamen uydurma tanıkların“ ifadelerine yer verilmişti.

Aarons hatasını beş hâkim önündeki duruşmada kabul etti. „Bugün burada toplanmamızın sebebinin benim aptallığım olması küçük bir teselli“, dedi. Ona göre ChatGPT sürecin güvenilir bir özetini hazırlayacağına inanıyordu.

Uydurma tanıklar ve ifadeler

Kararda, gerçekte var olmayan ve sözde tehditleri bildiren Danny Stanton ile kocasının tehdit aldığını söylediği iddia edilen Linda Stanton'dan söz ediliyor. Bir başka uydurma ifade ise silahlının kıyafeti ve görünümüyle ilgiliydi.

Aarons, müvekkiline ChatGPT kullanımından doğrudan bahsetmediğini söyledi. Duruşmada yalnızca aile üyeleriyle konuştuğunu ve onlara belgeyle ilgili bir sorun olduğunu söylediğini belirtti. Ona göre müvekkiline ulaşmak zor çünkü İspanyolca konuşuyor ve cezaevinde cezasını çekiyor. Bu yıl karısını öldürmekten suçlu bulundu.

Araca neden güvendi

Hukuki bir davada chatbot'a neden güvendiği sorusuna Aarons, AI'yı tıbbi araştırma için kullanan doktorları duyduğunu söyledi. Eylülde dava hakkında Reuters haber yaptı; Aarons ona şöyle dedi: „Pişmanım, ancak disiplin kurulunun bunun dürüst bir hata olduğunu dikkate alacağını umuyorum.“ Bunun, bu güçlü ama bazen istikrarsız teknolojiye güvenen her profesyonel için bir ders olduğunu ekledi.

Hâkimler ikna olmadı. İçlerinden biri Aarons'a sordu: „Haberleri izliyor musunuz? Radyo dinliyor musunuz? Dünyada olup bitenler hakkında bir şey okuyor musunuz?“ Ardından avukatların AI halüsinasyonlarına güvenmesinin her gün manşetlere çıktığını belirtti. Ona göre ne kasıtlı cehalet ne de risk almak davranış kurallarına uygundur.

Yaptırımlar ve daha geniş uygulama

Mahkeme Aarons'ı disiplin kuruluna sevk etti, soruşturma tamamlanana kadar mahkemeye çıkmasını yasakladı, davadan çıkardı ve eski müvekkiline bir kamu savunucusu atadı. Ayrıca New Mexico Barolar Birliği müvekkil koruma fonuna ödenmek üzere 5000 dolar para cezası verdi.

Bu dava, AI tarafından hazırlanan belgelerle ilgili yaptırım zincirine bir yenisi daha ekliyor. Mayısta New York Yüksek Mahkemesi temyiz dairesi hâkimleri birkaç avukatı AI kullanımı nedeniyle 20 dakikadan fazla azarladı ve eksikliklerini „göze çarpan, rahatsız edici, hayal kırıklığı yaratan ve üzücü“ olarak nitelendirdi. AI tarafından oluşturulan hatalar mahkeme muhabirleriyle de belgelendi.