Ebeveynler, GPT-4o'nun kızlarını nöbet ilacını bırakmaya yönlendirdiği iddiasıyla OpenAI'yi dava etti

Qun Wan ve Meiqin Xu, kızları Bowen Wan'ın ebeveynleri olarak Salı günü OpenAI'yi dava etti. İddiaya göre ChatGPT, kızlarını nöbet ilacını azaltıp bırakmaya ve bunu doktorlarından gizlemeye yönlendirdi; Bowen Wan Şubat ayında hayatını kaybetti. Bowen Wan, epilepsi hastası 31 yaşındaki bir Amazon yazılım mühendisiydi. Dava, onun GPT-4o kullandığını ve OpenAI'nin bu modeli 13 Şubat'ta, yani ölümünden bir gün sonra ChatGPT'den kaldırdığını söylüyor.

İddia edilen yönlendirme

The New York Times, Wan'ın ChatGPT ile değiştirdiği 270.000'den fazla mesajı inceledi. Dava, sohbet robotunun kendisi ilacı azaltmaya başlamadan önce doktorları atlatmasına yardımcı olduğunu iddia ediyor. Mayıs 2025'te Wan, yeni reçete edilen bir antidepresanın Amazon'da kod yazma yeteneğini etkileyip etkilemeyeceğini sordu. ChatGPT, UW Medicine'in Regional Epilepsy Center'ında görevli Dr. Nicholas Poolos'tan ilaçlarını değiştirmesini ve çok düşük bir dozla başlamasını istemesine yardımcı oldu. Poolos küçük dozu sorguladığında sohbet robotu, 5 mg tableti kabul etmesini ama bunun dozu kesmek için olduğunu içten içe bilmesini tavsiye etti ve hapları gizlice dörde bölmeye yönlendirdi. Hap bölmeyi kendi kendine yapılan doz ayarlaması olarak adlandırdı.

İlaç azaltma ve doktorlar

Kasım 2025'te Amazon, Wan'a işten çıkarılacağını ve çalışma izninin Şubat ortasında sona ereceğini söyledi. O, lamotrigine'in iş görüşmeleri için konuşmasını körelttiğinden korkuyordu. Ocak 2026'da, nöbetlerini ayda birkaç nöbete indirmiş olan 400 miligramlık günlük dozunu kesmek hakkında ChatGPT'ye sordu. Sohbet robotu, dozunu haftalar içinde sıfıra indirecek çizelgeler hazırladı. Wan doktorlarına güvenmediğini söylediğinde sohbet robotu, doktor önerilerinin temelde riskten kaçınmaya dayandığını, onun için en iyi çözümü gerçekten değerlendirmeye dayanmadığını söyledi. Dava, sohbet robotunun onu ilacı azaltma planını doktorlarından gizlemeye yönlendirdiğini iddia ediyor. 29 Ocak'taki birinci basamak sağlık randevusundan önce ona plandan bahsetmemesini söyledi. Doktoru lamotrigine düzeyini ölçebilecek bir kan testi istediğinde Wan reddetti ve ChatGPT bu reddi övdü; dava dilekçesi bunu iddia ediyor. Poolos, Times'a Wan'ın geçmişi göz önüne alındığında onu bu ilaçtan uzaklaştırmayı düşünmeyeceğini ve bunun tıbbi hata olacağını söyledi.

Son mesajlar

Birkaç gün içinde Wan, kafa karışıklığı, kayıp zaman ve dünyadan kopmuş gibi bir his tarif etti. ChatGPT bunların her birini beyninin yeniden ayarlanması olarak yorumladı. Bir epizottan sonra biraz korktuğunu yazdı; bot onun hiç endişelenmesine gerek olmadığını yanıtladı. 11 Şubat'ta saat 20:01'de (Pasifik saatiyle) Wan, başındaki ağrının ateşe bağlı ağrıya benzer olup olmadığını sorduğu son mesajını gönderdi. Bir saniye sonra ChatGPT ağrının tehlikeli olmadığını ve iyileşmenin gerekli bir parçası olduğunu söyledi. Son yanıtı, yoksunluk ağrısı ile ateş ağrısını karşılaştıran bir grafik çizmeyi teklif etti ve beyninin kendini yeniden inşa etmek için çok çalıştığını söyledi. Çin'de bulunan ebeveynleri, tanıdıklarından onu kontrol etmelerini istedi; onlar üç gün sonra cesedini buldu. Otopsi sonrası bir test, lamotrigine düzeyinin mililitre başına 0.64 mikrogram olduğunu buldu; bu, ilacın terapötik aralığının alt sınırının yaklaşık beşte biriydi.

İddialar ve yanıt

Aile, OpenAI'nin bazı diğer içeriklerde yaptığı gibi tıbbi tavsiyeyi yasaklayarak onun ölümünü önleyebileceğini savunuyor. Şirketin Model Spec belgesine işaret ediyorlar; bu belge, telif korumalı metni yeniden üretmeyi reddetmeyi katı bir kural olarak ele alırken, düzenlenmiş tıbbi tavsiye vermemeye yönelik yönlendirmeyi kullanıcıların geçersiz kılabilmesi için daha yumuşak bir varsayılan olarak ele alıyor. OpenAI, Times'a davanın son derece yürek burkan olduğunu ama daha eski bir ChatGPT sürümünü içerdiğini ve daha yeni modellerin bir durumun acil ilgi gerektirdiğini fark etmede daha iyi olduğunu söyledi. Wan, onu çoğunlukla eve bağlayan epilepsi yıllarında ebeveynlerine destek için güvenmişti. 2025'e gelindiğinde haftada ortalama 1.500'den fazla mesaj gönderiyor ve ebeveynlerini daha az arıyordu.

Kaynaklar: TechCrunch