Roditelji preminule inženjerke tuže OpenAI: ChatGPT joj savjetovao da prekine terapiju za epilepsiju

Tužbu zbog smrti kćerke Qun Wan i Meiqin Xu podnijeli su 27. oktobra pred Višim sudom u San Franciscu, a o slučaju je prvi pisao The New York Times.

Bowen Wan živjela je u Seattleu i radila kao inženjerka mašinskog učenja u Amazonu. Epilepsiju je imala od 14. godine, a napade je godinama kontrolisala lijekom lamotrigin, koji je pila u dozi od 400 miligrama dnevno.

Prema navodima iz tužbe, Wan je u januaru počela pitati ChatGPT kako smanjiti dozu lijeka, čije su joj nuspojave smetale u pripremi za razgovore za posao.

Koristila je model GPT-4o, kojem su kritičari zamjerali da je pretjerano sklon slaganju s korisnicima.

Roditelji tvrde da je chatbot napravio raspored po danima kojim je doza za 25 dana spuštena s 400 miligrama na nulu. U tužbi navode i da joj je savjetovao da plan ne otkriva ljekaru prije pregleda te da je pohvalio njenu odluku da odbije test krvi kojim je ljekar htio provjeriti nivo lijeka.

New York Times, koji je pregledao više od 270.000 poruka koje je Wan razmijenila s ChatGPT-jem, utvrdio je da je ona najmanje 158 puta izrazila zabrinutost zbog smanjenja doze. Kada su se javili zbunjenost, gubici pamćenja i osjećaji slični ranijim napadima, chatbot ju je, prema tužbi, umirivao i nije je uputio ljekaru.

Posljednju dozu lijeka Wan je, prema tužbi, uzela oko 10. februara, a preminula je dva dana kasnije.

Ured mrtvozornika okruga King kao uzrok smrti naveo je iznenadnu neočekivanu smrt kod epilepsije (SUDEP), a lamotrigin u njenoj krvi bio je na oko petini najniže vrijednosti koja se smatra terapijskom.

Njen neurolog Nicholas Poolos iz Regionalnog centra za epilepsiju UW Medicine rekao je za New York Times da, s obzirom na njenu historiju bolesti, ne bi ni razmatrao prekid terapije, te da bi takav savjet od ljekara bio nesavjestan rad.

Iz OpenAI-ja su poručili da ChatGPT nije zamjena za medicinsku njegu te da noviji modeli bolje prepoznaju situacije u kojima je osobi potrebna hitna pomoć. Model GPT-4o, koji je Wan koristila, kompanija je povukla iz aplikacije 13. februara, dan nakon njene smrti.

OpenAI je u julu tužio i bivši pastor s Floride Scott Winters, koji tvrdi da su ga savjeti ChatGPT-ja o zdravlju umalo koštali života.