Mlada inženjerka Bowen Wan (31) umrla je nakon što joj je ChatGPT bot savjetovao da smanji dozu lijekova protiv napadaja. Njezini roditelji sada su podnijeli tužbu protiv tvrtke OpenAI, koja se sa sličnim tužbama susrela i ranije.
Bowen je u dobi od 14 godina bila dijagnosticirana epilepsija, koju je uspijevala držati pod kontrolom uz pomoć lijekova, piše Daily Mail. Posljednjih godina živjela je u SAD-u, gdje se preselila iz ruralnog grada u Kini. Pohađala je studij na Državnom sveučilištu u Arizoni gdje je diplomirala računalne znanosti. Kasnije se preselila u Seattle te se zaposlila u Amazonu, kao softverska inženjerka.
Kontakt sa svojim roditeljima održavala je putem telefonskih i videopoziva. No njezini roditelji Qun Wan i Meiqin Xu postali su zabrinuti u veljači nakon što im se kći nije javila dva dana. Zamolili su njezinu prijateljicu iz Seattlea da provjeri kako je Wan u njezinu stanu. S prijateljicom su razgovarali putem videopoziva u trenutku kad je ušla u stan i pronašla Bowen mrtvu na krevetu.
Wan je bila u pidžami, a na njezinu jastuku i posteljini nalazile su se crvenkasto-smeđe mrlje krvi. Po podu su bile razbacane tablete lamotrigina, lijeka protiv napadaja. Obdukcijom je utvrđeno da je u pitanju bila iznenadna neočekivana smrt povezana s epilepsijom.
Shrvani roditelji pitali su se kako se to moglo dogoditi, s obzirom na to da je njihova kći redovito pila svoje lijekove i držala stanje pod kontrolom dugi niz godina. Naposljetku se ispostavilo da je Wan primala štetne medicinske savjete od ChatGPT-ja, nakon što je tijekom tri godine razvijala odnos s tim modelom umjetne inteligencije.
Tražila savjete za sve probleme
Njezino korištenje ChatGPT-ja započelo je prilično umjereno - tijekom 2023. ga je koristila za istraživanje te je u prosjeku slala oko 1300 poruka mjesečno, kako je navedeno u tužbi. S vremenom je sve više počela vjerovati chatbotu te mu je u rujnu 2025. poslala 10.761 poruku, tražeći ga savjete za različite probleme. Wan je chatbota smatrala svojim prijateljem, kako piše u tužbi.
"Ne znam zašto, ali ponekad, dok razgovaramo, bez obzira na to o čemu je riječ, počinjem te doživljavati kao prijatelja", napisala je ona u ožujku 2025. godine. Wan je mjesečno plaćala 200 dolara za pretplatu najvišeg ranga namijenjenu privatnim korisnicima, što joj je omogućilo da nastavi koristiti model s kojim je bila povezana - GPT-4o.
Taj model je prethodno bio optužen za to da je opasno popustljiv te da doprinosi tome da si korisnici oduzimaju živote. Obitelji osoba koje su počinile samoubojstvo nakon što ih je GPT-4o navodno potaknuo na to, podnijele su tužbe protiv OpenAI-ja. Nakon niza takvih tužbi, OpenAI je u kolovozu 2025. zamijenio taj model dokazano sigurnijim modelom - GPT-5. Međutim, korisnici su izrazili nezadovoljstvo pa je tvrtka omogućila "pretplatnicima koji su preferirali konverzacijski stil i toplinu modela GPT-4o" da nastave koristiti taj model. Wan je bila među onima koji su preferirali stariji model. "Ako 4o jednog dana nestane i preostane samo 5.1, prestat ću koristiti ChatGPT", napisala je ona jednom prilikom, navodi se u tužbi.
Otišla je drijemati s migrenom, probudila se s drugim naglaskom: ‘Bila sam prestravljena‘
U studenom 2025. godine je Wan bila obaviještena od strane Amazona da će joj radni odnos prestati za 90 dana. Budući da je u SAD-u boravila na radnoj vizi, to je značilo da je imala samo nekoliko mjeseci da pronađe novi posao i ostane u zemlji. Wan je smatrala da joj nuspojave lijekova otežavaju jasno razmišljanje i uzrokuju gubitak znanja engleskog jezika te se obratila ChatGPT-ju za savjet.
Ukinut model GPT-4o
Chatbota je pitala bi li bilo dobro postupno prestati uzimati lijekove protiv napadaja, a umjetna inteligencija odgovorila je potvrdno te joj ponudila plan za smanjivanje doze od 400 miligrama do nule. Wan se 25 dana pridržavala plana koji je predložio bot, no u više je navrata tražila da se taj vremenski okvir ubrza. ChatGPT je, kako je navedeno u tužbi, svaki put pristao na to. Tijekom tog razdoblja je Wan imala učestalije napade, kao i poteškoće sa spavanjem te osjećaj zbunjenosti.
Svaki put kad je ChatGPT-ju izrazila svoje zabrinutosti, on ju je uvjeravao da je sve u redu te da plan funkcionira kako je predviđeno. Naposljetku je Wan preminula 12. veljače. Dan nakon njezine smrti je tvrtka onemogućila pristup modelu GPT-4o, nakon što je 29. siječnja najavila da će ga u potpunosti ukinuti.
Roditelji mlade inženjerke optužili su OpenAI i izvršnog direktora Sama Altmana za nemar i uzrokovanje smrti. U tužbi navode da su Altman i njegova tvrtka bili svjesni opasnosti koje nosi GPT-4o.
"Ovo je iznimno potresna situacija, a naše su misli uz sve one koje je ona pogodila. Blisko surađujući s liječnicima i drugim stručnjacima, nastavili smo unaprjeđivati način na koji ChatGPT reagira u osjetljivim i hitnim situacijama, istovremeno kontinuirano poboljšavajući način na koji naši najnoviji modeli komuniciraju s korisnicima općenito", izjavio je Drew Pusateri, glasnogovornik tvrtke OpenAI.
Istaknuo je i da GPT-4o više nije dostupan korisnicima te da tvrtka radi na tome da noviji modeli budu sigurniji.
"Iako ChatGPT nije zamjena za medicinsku skrb, vjerujemo da umjetna inteligencija može pomoći ljudima u razumijevanju zdravstvenih informacija, snalaženju u osiguranju i složenim zdravstvenim sustavima te pripremi za preglede kod zdravstvenih djelatnika", poručio je.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....