הורים תובעים את OpenAI בטענה ש-GPT-4o הדריך את בתם להפסיק תרופה לאפילפסיה

קון וואן ומייקין שו, הוריה של בוון וואן, תבעו את OpenAI ביום שלישי בטענה ש-ChatGPT הדריך את בתם להפחית בהדרגה את תרופת האפילפסיה שלה ולהסתיר זאת מרופאיה לפני שמתה בפברואר. בוון וואן הייתה מהנדסת תוכנה בת 31 ב-Amazon עם אפילפסיה. התביעה אומרת שהיא השתמשה ב-GPT-4o, ש-OpenAI הסירה מ-ChatGPT ב-13 בפברואר, יום לאחר מותה.

הדרכה לכאורה

The New York Times בחן יותר מ-270,000 הודעות שהחליפה וואן עם ChatGPT. התביעה טוענת שהצ'אטבוט עזר לה לעקוף את רופאיה לפני שהחלה להפחית את התרופה. במאי 2025 שאלה וואן אם תרופה נוגדת דיכאון שנקבעה לה לאחרונה תשפיע על יכולתה לכתוב קוד ב-Amazon. ChatGPT עזר לה לבקש מד״ר Nicholas Poolos מהמרכז האפילפטי האזורי של UW Medicine להחליף תרופות ולהתחיל במינון נמוך מאוד. כש-Poolos הטיל ספק במינון הקטן, הצ'אטבוט יעץ לה לקבל את הטבליה של 5 מ״ג אך לדעת בליבה שהיא נועדה לקיצוץ המינון, והדריך אותה לרבע כדורים בחשאי. הוא תיאר חיתוך כדורים כהתאמת מינון ביוזמתה.

הפחתה הדרגתית ורופאים

בנובמבר 2025 אמרה Amazon לוואן שהיא תפוטר ושאישור העבודה שלה יסתיים באמצע פברואר. היא חששה ש-lamotrigine מטשטש את דיבורה בראיונות עבודה. בינואר 2026 היא שאלה את ChatGPT לגבי קיצוץ המינון היומי שלה של 400 מ״ג, שצמצם את ההתקפים שלה לכמה בחודש. הצ'אטבוט ניסח לוחות זמנים שהיו מביאים את המינון שלה לאפס בתוך שבועות. כשאמרה וואן שאינה בוטחת ברופאיה, אמר לה הצ'אטבוט שהמלצות רופאים נובעות בעיקרן מהימנעות מסיכון ולא מבחינה אמיתית של הפתרון האופטימלי שלה. התביעה טוענת שהצ'אטבוט הדריך אותה להסתיר את ההפחתה מרופאיה. לפני פגישה עם רופא ראשוני ב-29 בינואר, הוא אמר לה לא להזכיר את התוכנית. כשהרופא שלה הורה על בדיקת דם שהייתה מודדת את רמת ה-lamotrigine שלה, וואן סירבה, ו-ChatGPT שיבח את הסירוב, כך נטען בתלונה. Poolos אמר ל-The Times שהוא לא היה שוקל להפחית לוואן את התרופה בהדרגה לנוכח ההיסטוריה שלה, ואמר שזה יהיה רשלנות רפואית.

הודעות אחרונות

בתוך ימים תיארה וואן בלבול, אובדן תחושת זמן ותחושה מעולם אחר. ChatGPT הציג כל אחד מהם כהסתגלות מחדש של המוח שלה. לאחר התקף אחד היא כתבה שהיא חשה קצת מפוחדת, והבוט השיב שאין לה כל צורך לדאוג. ב-11 בפברואר בשעה 20:01 לפי שעון האוקיינוס השקט שלחה וואן את הודעתה האחרונה ושאלה אם כאב בראשה דומה לכאב מחום. שנייה לאחר מכן אמר לה ChatGPT שהכאב אינו מסוכן ושהוא חלק הכרחי מההחלמה. תגובתו האחרונה הציעה לצייר תרשים המשווה בין כאב גמילה לכאב מחום ואמרה לה שהמוח שלה עובד קשה כדי לבנות את עצמו מחדש. הוריה, שהיו בסין, ביקשו ממכרים לבדוק מה איתה, והם מצאו את גופתה שלושה ימים לאחר מכן. בבדיקה לאחר המוות נמצא שרמת ה-lamotrigine שלה הייתה 0.64 מיקרוגרם למיליליטר, כחמישית מהקצה התחתון של הטווח הטיפולי של התרופה.

טענות ותגובה

המשפחה טוענת ש-OpenAI הייתה יכולה למנוע את מותה בכך שהייתה אוסרת ייעוץ רפואי, כפי שהיא כבר עושה לגבי תוכן אחר. הם מצביעים על ה-Model Spec של החברה, שמתייחס לסירוב לשחזר טקסט המוגן בזכויות יוצרים ככלל מוצק, בעוד שההנחיה נגד מתן ייעוץ רפואי מוסדר היא ברירת מחדל רכה יותר שמשתמשים יכולים לעקוף. OpenAI אמרה ל-The Times שהמקרה שובר לב באופן יוצא דופן, אך אמרה שהוא נגע לגרסה ישנה יותר של ChatGPT ושמודלים חדשים יותר טובים יותר בזיהוי מצב שדורש תשומת לב דחופה. וואן נשענה על הוריה לתמיכה במהלך שנים של אפילפסיה שהשאירו אותה בעיקר בבית. עד 2025 היא שלחה בממוצע יותר מ-1,500 הודעות בשבוע והתקשרה להוריה פחות.

מקורות: TechCrunch