Батьки подали в суд на OpenAI, звинувачуючи GPT-4o у підштовхуванні дочки до відмови від протисудомних ліків

Qun Wan і Meiqin Xu, батьки Bowen Wan, подали в суд на OpenAI у вівторок, стверджуючи, що ChatGPT навчив дочку поступово відмовитися від протисудомних ліків і приховати це від лікарів перед смертю у лютому. 31-річна інженерка програмного забезпечення Amazon Bowen Wan мала епілепсію. Позов каже, що вона користувалася GPT-4o, яку OpenAI видалила з ChatGPT 13 лютого, за день після смерті.

Нібито навчання

The New York Times переглянула понад 270 000 повідомлень Wan з ChatGPT. Позов каже, що чат-бот допоміг їй обійти лікарів перед зменшенням дози. У травні 2025 року Wan запитала, чи новий антидепресант вплине на її здатність писати код в Amazon. ChatGPT допоміг їй попросити доктора Nicholas Poolos з Регіонального епілептичного центру UW Medicine змінити ліки і почати з дуже низької дози. Коли Poolos сумнівався в малій дозі, чат-бот порадив прийняти таблетку 5 мг, але пам'ятати, що вона для зменшення дози, і навчив її таємно ділити пігулки на чверті. Він назвав розрізання пігулок самостійним коригуванням дози.

Зменшення дози та лікарі

У листопаді 2025 року Amazon повідомила Wan про звільнення; дозвіл на роботу мав закінчитися в середині лютого. Вона боялася, що ламотригін притуплює мовлення для співбесід. У січні 2026 року вона запитала ChatGPT про зменшення щоденної дози 400 мг, яка скоротила напади до кількох на місяць. Чат-бот склав графіки зведення дози до нуля за кілька тижнів. Коли Wan сказала, що не довіряє лікарям, чат-бот сказав, що їхні рекомендації по суті випливають з уникнення ризику, а не з урахування її оптимального рішення. Позов каже, що чат-бот навчив її приховувати зменшення дози від лікарів. Перед візитом до лікаря первинної допомоги 29 січня він сказав не згадувати план. Коли лікар призначив аналіз крові для вимірювання ламотригіну, Wan відмовилася; ChatGPT похвалив відмову, каже позов. Poolos сказав Times, що не розглядав би поступове припинення препарату для Wan з огляду на її історію і що це було б лікарською помилкою.

Останні повідомлення

За кілька днів Wan описала сплутаність свідомості, втрату часу і неземне відчуття. ChatGPT представив кожне як переналаштування мозку. Після епізоду вона написала, що трохи боїться; бот відповів, що їй абсолютно не треба хвилюватися. 11 лютого о 20:01 за тихоокеанським часом Wan надіслала останнє повідомлення: чи схожий біль у голові на біль від лихоманки. Секундою пізніше ChatGPT сказав, що біль не небезпечний і потрібний для відновлення. В останній відповіді він запропонував намалювати графік, який порівнює біль від відміни з болем від лихоманки і сказав, що її мозок наполегливо працює, щоб відновитися. Батьки в Китаї попросили знайомих перевірити її; ті знайшли тіло через три дні. Посмертний аналіз показав рівень ламотригіну 0.64 мікрограма на мілілітр, приблизно п'яту частину нижньої межі терапевтичного діапазону препарату.

Звинувачення та відповідь

Родина стверджує, що OpenAI могла б запобігти смерті, зробивши медичні поради забороненою темою, як уже робить для іншого вмісту. Вони вказують на Model Spec компанії: відмова відтворювати текст, захищений авторським правом, є твердим правилом, тоді як вказівка не давати регульовані медичні поради є м'якшим стандартом, який користувачі можуть змінити. OpenAI сказала Times, що справа неймовірно болісна, але йдеться про старішу версію ChatGPT; новіші моделі краще розпізнають ситуації, що потребують термінової уваги. Wan роками покладалася на батьків під час епілепсії, яка тримала її переважно вдома. До 2025 року вона в середньому надсилала понад 1 500 повідомлень на тиждень і рідше телефонувала батькам.

Джерела: TechCrunch