עורך דין הזכיר עדים בדויים של ChatGPT בערעור בתיק רצח

עורך הדין מניו מקסיקו סטיבן ד. אהרונס הורשע על ידי בית המשפט בביזיון ישיר לאחר שהגיש במסמך ערעור בתיק רצח עדים ועדויות שהומצאו על ידי ChatGPT. לפי החלטת בית המשפט העליון, המשפטן ייצג אדם שהואשם ברצח אשתו, אך במסמכיו הוזכרה עדותם של „עדים בדויים לחלוטין“.

אהרונס הודה בטעות בדיון לפני חמישה שופטים. „נחמה קטנה היא שטיפשותי היא הסיבה לכך שהתכנסנו כאן היום“, אמר. לדבריו, הוא האמין ש-ChatGPT יכין סיכום מהימן של ההליך.

עדים ועדויות בדויים

בהחלטה הוזכרו דני סטנטון, שאינו קיים במציאות ולכאורה דיווח על איומים, וכן לינדה סטנטון, שלכאורה אמרה שבעלה קיבל איומים. עדות בדויה אחרת נגעה לבגדיו ולמראהו של היורה.

אהרונס אמר שלא סיפר ללקוח ישירות על השימוש ב-ChatGPT. בדיון הצהיר שדיבר רק עם בני משפחה ואמר להם שיש בעיה עם המסמך. לדבריו, קשה ליצור קשר עם הלקוח משום שהוא מדבר ספרדית ומרצה עונשו בכלא. השנה הוא הורשע ברצח אשתו.

מדוע סמך על הכלי

לשאלה מדוע הסתמך על הצ׳אטבוט בתיק משפטי, השיב אהרונס ששמע על רופאים שמשתמשים ב-AI למחקר רפואי. בספטמבר כתבה סוכנות Reuters על התיק; אהרונס אמר לה: „אני מצטער, אבל אני מקווה שהוועדה המשמעתית תביא בחשבון שזו הייתה טעות כנה“. הוא הוסיף שזה לקח לכל איש מקצוע שנשען על הטכנולוגיה החזקה הזו, שלעיתים אינה יציבה.

השופטים לא השתכנעו. אחד מהם שאל את אהרונס: „אתם צופים בחדשות? מקשיבים לרדיו? קוראים משהו על מה שקורה בעולם?“ לאחר מכן ציין שפנייה של עורכי דין להזיות AI מגיעה לעמוד הראשון מדי יום. לדבריו, לא בורות מכוונת ולא נטילת סיכון אינן תואמות את כללי האתיקה.

סנקציות ופרקטיקה רחבה יותר

בית המשפט הפנה את אהרונס לוועדה המשמעתית, אסר עליו להופיע בבית המשפט עד לסיום החקירה, הסיר אותו מהתיק ומינה ללקוח לשעבר סנגור ציבורי. בנוסף, הוטל עליו קנס של 5000 דולר, שעליו להעביר לקרן להגנת לקוחות של לשכת עורכי הדין של ניו מקסיקו.

מקרה זה הוא עוד אחד בשורה של סנקציות הקשורות למסמכים שהוכנו ב-AI. במאי, שופטים במחלקה לערעורים של בית המשפט העליון של ניו יורק נזפו בכמה עורכי דין על שימוש ב-AI במשך יותר מ-20 דקות וכינו את הליקויים שלהם „בולטים, מדאיגים, מאכזבים ומצערים“. שגיאות שנוצרו ב-AI תועדו גם עם כתבי בתי המשפט.