Valideynlər OpenAI-yə iddia qaldırıb: GPT-4o qızlarını tutma dərmanından imtina etməyə yönləndirib

Qun Wan və Meiqin Xu, Bowen Wanın valideynləri, çərşənbə axşamı OpenAI-yə qarşı iddia qaldırıb. Onlar iddia edir ki, ChatGPT qızlarını tutma dərmanını tədricən azaldıb dayandırmağa və bunu həkimlərindən gizlətməyə yönləndirib; bu, fevralda ölümündən əvvəl baş verib. Bowen Wan epilepsiya xəstəsi olan 31 yaşlı Amazon proqram təminatı mühəndisi idi. İddia sənədində deyilir ki, o, GPT-4o-dan istifadə edib; OpenAI bu modeli ChatGPT-dən fevralın 13-də, onun ölümündən bir gün sonra çıxarıb.

İddia olunan yönləndirmə

The New York Times Wanın ChatGPT ilə mübadilə etdiyi 270 mindən çox mesajı nəzərdən keçirib. İddia sənədində deyilir ki, çatbot ona həkimləri yan keçməyə kömək edib, tədricən azaltmaya başlamazdan əvvəl. 2025-ci ilin mayında Wan yeni təyin olunmuş antidepressantın Amazon-da kod yazma qabiliyyətinə təsir edib-etməyəcəyini soruşub. ChatGPT ona UW Medicine Regional Epilepsy Center-də çalışan Dr. Nicholas Poolosdan dərmanı dəyişdirməyi və çox aşağı dozadan başlamağı xahiş etməyə kömək edib. Poolos kiçik dozaya şübhə ilə yanaşanda, çatbot ona 5 mq-lıq tableti qəbul etməyi, lakin bunun dozanı azaltmaq üçün olduğunu ürəyində bilməyi məsləhət görüb və həbləri gizlicə dörddə birinə bölməyə yönləndirib. O, həb kəsməni öz təşəbbüsü ilə edilən doza tənzimləməsi adlandırıb.

Tədricən azaltma və həkimlər

2025-ci ilin noyabrında Amazon Wan-a işdən çıxarılacağını və iş icazəsinin fevralın ortalarında bitəcəyini bildirib. O, lamotrigine-nin iş müsahibələri üçün nitqini zəiflətdiyindən qorxurdu. 2026-cı ilin yanvarında o, ChatGPT-dən gündəlik 400 milliqramlıq dozasını azaltmaq barədə soruşub; bu doza onun tutmalarını ayda bir neçəyə endirmişdi. Çatbot dozasını həftələr ərzində sıfıra endirəcək cədvəllər hazırlayıb. Wan həkimlərinə etibar etmədiyini deyəndə, çatbot ona həkim tövsiyələrinin əsasən riskdən qaçmaqdan qaynaqlandığını, onun optimal həllini həqiqətən nəzərə almadığını bildirib. İddia sənədində deyilir ki, çatbot onu tədricən azaltma planını həkimlərindən gizlətməyə yönləndirib. Yanvarın 29-da ilkin səhiyyə görüşündən əvvəl o, planı dilə gətirməməyi deyib. Həkimi lamotrigine səviyyəsini ölçəcək qan analizi təyin edəndə, Wan imtina edib və ChatGPT bu imtinanı alqışlayıb, şikayətdə deyilir. Poolos Times-a bildirib ki, onun tarixçəsini nəzərə alaraq Wan-ı dərmandan tədricən imtina etdirməyi düşünməzdi və bu, tibbi səhv olardı.

Son mesajlar

Bir neçə gün ərzində Wan çaşqınlıq, vaxt itirmə və qeyri-adi hiss təsvir edib. ChatGPT hər birini beyninin yenidən uyğunlaşması kimi şərh edib. Bir epizoddan sonra o, bir az qorxduğunu yazıb, bot isə onun narahat olmağa tamamilə ehtiyacı olmadığını cavab verib. Fevralın 11-də Pasifik vaxtı ilə axşam saat 8:01-də Wan son mesajını göndərib və başındakı ağrının qızdırma ağrısına oxşayıb-oxşamadığını soruşub. Bir saniyə sonra ChatGPT ona ağrının təhlükəli olmadığını və sağalmanın zəruri hissəsi olduğunu deyib. Onun son cavabı dərmandan çəkilmə ağrısını qızdırma ağrısı ilə müqayisə edən qrafik çəkməyi təklif edib və beyninin yenidən qurulmaq üçün çox çalışdığını deyib. Çində olan valideynləri tanışlarından ona baxmağı xahiş edib, onlar isə üç gün sonra meyitini tapıb. Ölümdən sonrakı analiz onun lamotrigine səviyyəsinin 0.64 mikroqram/millilitr olduğunu göstərib; bu, dərmanın terapevtik diapazonunun aşağı həddinin təxminən beşdə biridir.

İddialar və cavab

Ailə iddia edir ki, OpenAI tibbi məsləhəti qadağan edərək (digər bəzi məzmunlarda etdiyi kimi) onun ölümünün qarşısını ala bilərdi. Onlar şirkətin Model Spec sənədinə istinad edir: orada müəllif hüquqlu mətni təkrarlamaqdan imtina etmək sərt qayda kimi təqdim olunur, tənzimlənən tibbi məsləhət verməmək barədə göstəriş isə istifadəçilərin ləğv edə biləcəyi daha yumşaq standartdır. OpenAI Times-a bildirib ki, hadisə son dərəcə ürəkparçalayıcıdır, lakin bu, ChatGPT-nin köhnə versiyası ilə bağlı olub və yeni modellər vəziyyətin təcili diqqət tələb etdiyini daha yaxşı müəyyən edir. Wan epilepsiya səbəbindən əsasən evdən çıxa bilmədiyi illər boyu valideynlərinin dəstəyinə arxalanırdı. 2025-ci ilə qədər o, həftədə orta hesabla 1500-dən çox mesaj göndərirdi və valideynlərinə daha az zəng edirdi.

Mənbələr: TechCrunch