Адвокат згадав вигаданих ChatGPT свідків в апеляції у справі про вбивство

Адвоката з Нью-Мексико Стівена Д. Ааронса суд визнав винним у прямій неповазі після того, як він подав у апеляційному документі у справі про вбивство вигаданих ChatGPT свідків і показання. Згідно з рішенням Верховного суду, юрист захищав чоловіка, обвинуваченого у вбивстві дружини, однак у його документах було наведено показання «цілком вигаданих свідків».

Ааронс визнав помилку на засіданні перед п’ятьма суддями. «Малою втіхою є те, що моя дурість — причина, з якої ми сьогодні тут зібралися», — сказав він. За його словами, він вірив, що ChatGPT підготує надійне резюме процесу.

Вигадані свідки та показання

У рішенні згадуються Денні Стентон, який насправді не існує і нібито повідомляв про погрози, а також Лінда Стентон, яка нібито казала, що її чоловік отримував погрози. Інше вигадане показання стосувалося одягу та зовнішності стрільця.

Ааронс сказав, що прямо не казав клієнту про використання ChatGPT. На засіданні він заявив, що говорив лише з членами родини й сказав їм, що з документом була проблема. За його словами, зв’язатися з клієнтом складно, оскільки він розмовляє іспанською та відбуває покарання у в’язниці. Цього року його визнали винним в убивстві дружини.

Чому довірився інструменту

На запитання, чому він покладався на чатбот у юридичній справі, Ааронс відповів, що чув про лікарів, які використовують AI для медичних досліджень. У вересні про справу написало агентство Reuters; Ааронс сказав йому: «Шкодую, але сподіваюся, що дисциплінарна рада врахує, що це була щира помилка». Він додав, що це урок для кожного професіонала, який покладається на цю потужну, але часом нестабільну технологію.

Судді не переконалися. Один із них запитав Ааронса: «Ви дивитеся новини? Слухаєте радіо? Читаєте щось про те, що відбувається у світі?» Потім він зазначив, що випадки, коли адвокати покладаються на галюцинації AI, щодня потрапляють на перші шпальти. За його словами, ані навмисне незнання, ані ризик не відповідають кодексу поведінки.

Санкції та ширша практика

Суд направив Ааронса до дисциплінарної ради, заборонив йому з’являтися до суду до завершення розслідування, усунув від справи та призначив колишньому клієнту державного захисника. Крім того, на нього наклали штраф 5000 доларів, який має бути сплачений до фонду захисту клієнтів асоціації адвокатів Нью-Мексико.

Цей випадок — ще один у низці санкцій, пов’язаних із документами, підготовленими AI. У травні судді апеляційного відділу Верховного суду Нью-Йорка відчитали кількох адвокатів за використання AI понад 20 хвилин і назвали їхні недоліки «кричущими, тривожними, розчарувальними та прикрими». Помилки, створені AI, також фіксувалися разом із судовими репортерами.