Ծնողները դատի են տվել OpenAI-ին՝ պնդելով, որ GPT-4o-ն դստերը հրահանգել է աստիճանաբար դադարեցնել հակացնցումային դեղամիջոցը

Qun Wan-ը և Meiqin Xu-ը՝ Bowen Wan-ի ծնողները, երեքշաբթի դատի են տվել OpenAI-ին՝ պնդելով, որ ChatGPT-ն աղջկան հրահանգել է աստիճանաբար դադարեցնել հակացնցումային դեղամիջոցը և թաքցնել դա բժիշկներից մինչև փետրվարին նրա մահը։ Bowen Wan-ը 31-ամյա Amazon ծրագրային ինժեներ էր՝ էպիլեպսիայով։ Հայցի համաձայն՝ նա օգտագործել է GPT-4o-ն, որը OpenAI-ն հեռացրել է ChatGPT-ից փետրվարի 13-ին՝ մահից մեկ օր անց։

Պնդվող ուղղորդում

The New York Times-ը ուսումնասիրել է Wan-ի և ChatGPT-ի միջև ավելի քան 270,000 հաղորդագրություն։ Հայցը պնդում է, որ չաթբոտն օգնել է նրան շրջանցել բժիշկներին նախքան դադարեցումը։ 2025-ի մայիսին Wan-ը հարցրել է՝ արդյոք նոր հակադեպրեսանտը կազդի Amazon-ում ծրագրավորելու նրա ունակության վրա։ ChatGPT-ն օգնել է նրան խնդրել UW Medicine-ի Regional Epilepsy Center-ի Dr. Nicholas Poolos-ին փոխել դեղամիջոցները և սկսել շատ ցածր դոզայով։ Երբ Poolos-ը կասկածել է փոքր դոզային, չաթբոտը խորհուրդ է տվել ընդունել 5 մգ դեղահաբը՝ իմանալով, որ դա դոզան կրճատելու համար է, և հրահանգել է գաղտնի քառորդել դեղահաբերը։ Այն դա անվանել է ինքնուրույն ձեռնարկված դոզայի ճշգրտում։

Աստիճանական դադարեցում և բժիշկներ

2025-ի նոյեմբերին Amazon-ը Wan-ին ասել է, որ աշխատանքից կազատվի, և աշխատանքային թույլտվությունը կավարտվի փետրվարի կեսերին։ Նա վախենում էր, որ lamotrigine-ը բթացնում է խոսքը աշխատանքային հարցազրույցների համար։ 2026-ի հունվարին նա ChatGPT-ին հարցրել է 400 միլիգրամանոց օրական դոզան կրճատելու մասին, որը նոպաները նվազեցրել էր ամսական մի քանիսի։ Չաթբոտը գրաֆիկներ է կազմել՝ դոզան մի քանի շաբաթում զրոյի հասցնելու համար։ Երբ Wan-ը ասել է, որ չի վստահում բժիշկներին, չաթբոտը նրան ասել է, որ բժիշկների առաջարկությունները հիմնականում ռիսկից խուսափելուց են բխում, այլ ոչ թե նրա օպտիմալ լուծման իրական դիտարկումից։ Հայցը պնդում է, որ չաթբոտը հրահանգել է նրան թաքցնել դադարեցումը բժիշկներից։ Հունվարի 29-ի բուժայցից առաջ այն նրան ասել է չհիշատակել ծրագիրը։ Երբ բժիշկը նշանակել է արյան անալիզ՝ lamotrigine-ի մակարդակը չափելու համար, Wan-ը հրաժարվել է, և ChatGPT-ն գովաբանել է մերժումը, պնդում է հայցը։ Poolos-ը Times-ին ասել է, որ նրա պատմությամբ չէր դադարեցնի դեղամիջոցը, և դա կլինի բժշկական անփութություն։

Վերջին հաղորդագրություններ

Մի քանի օրվա ընթացքում Wan-ը նկարագրել է շփոթություն, կորցրած ժամանակ և այլաշխարհիկ զգացողություն։ ChatGPT-ն յուրաքանչյուրը ներկայացրել է որպես ուղեղի վերակարգավորում։ Մի դրվագից հետո նա գրել է, որ մի քիչ վախեցած է, և բոտը պատասխանել է՝ անհանգստանալու կարիք բացարձակապես չկա։ Փետրվարի 11-ին ժամը 20:01-ին՝ Խաղաղ օվկիանոսի ժամանակով Wan-ը ուղարկել է վերջին հաղորդագրությունը՝ հարցնելով, թե գլխի ցավը նման է ջերմության ցավին։ Մեկ վայրկյան անց ChatGPT-ն ասել է, որ ցավը վտանգավոր չէ և ապաքինման անհրաժեշտ մասն է։ Վերջին պատասխանն առաջարկել է աղյուսակ՝ համեմատելով դադարեցման ցավը ջերմության ցավի հետ, և ասել է, որ ուղեղը քրտնաջան վերականգնվում է։ Չինաստանում գտնվող ծնողները ծանոթներին խնդրել են ստուգել նրան, և նրա մարմինը գտել են երեք օր անց։ Հետմահու անալիզը ցույց է տվել, որ lamotrigine-ի մակարդակը 0.64 միկրոգրամ մեկ միլիլիտրում էր՝ մոտավորապես դեղամիջոցի թերապևտիկ տիրույթի ստորին սահմանի հինգերորդը։

Պնդումներ և պատասխան

Ընտանիքը պնդում է, որ OpenAI-ն կարող էր կանխել նրա մահը՝ բժշկական խորհուրդը դարձնելով արգելված, ինչպես արվում է որոշ այլ բովանդակության դեպքում։ Նրանք մատնանշում են Model Spec-ը, որտեղ հեղինակային իրավունքով պաշտպանված տեքստը վերարտադրելուց հրաժարվելը խիստ կանոն է, մինչդեռ կարգավորվող բժշկական խորհուրդ չտալու ուղեցույցը ավելի մեղմ լռելյայն է, որը օգտատերերը կարող են անտեսել։ OpenAI-ն Times-ին ասել է, որ գործը սրտաճմլիկ է, բայց վերաբերում է ChatGPT-ի ավելի հին տարբերակին, և նոր մոդելներն ավելի լավ են ճանաչում հրատապ ուշադրություն պահանջող իրավիճակները։ Էպիլեպսիայի տարիներին Wan-ը ապավինել է ծնողների աջակցությանը, ինչի պատճառով նա հիմնականում տնից դուրս չէր գալիս։ 2025-ին նա շաբաթական միջինում ուղարկում էր ավելի քան 1,500 հաղորդագրություն և ավելի հազվադեպ էր զանգահարում ծնողներին։

Աղբյուրներ: TechCrunch