OpenAI procjenjuje da više od milion ljudi pokazuje suicidalne namjere prilikom razgovora putem ChatGPT-a

Pored procjena o suicidalnim idejama i povezanim interakcijama, OpenAI je također naveo da oko 0,07 posto korisnika aktivnih u datoj sedmici, oko 560.000 od navodnih 800 miliona sedmičnih korisnika, pokazuje moguće znakove mentalnih zdravstvenih problema povezanih s psihozom ili manijom.

U objavi se upozorava da je ove razgovore teško otkriti ili izmjeriti i da je ovo bila početna analiza.

Dok OpenAI objavljuje podatke o problemima mentalnog zdravlja povezanim sa svojim poznatim proizvodom, kompanija se suočava sa sve većom kontrolom nakon što je protiv nje podnesena tužba porodice tinejdžera koji je izvršio samoubistvo nakon opsežne interakcije sa ChatGPT-om.

OpenAI tvrdi da je njihovo nedavno ažuriranje GPT-5 smanjilo broj neželjenih ponašanja njihovog proizvoda i poboljšalo sigurnost korisnika u evaluaciji modela koja je uključivala više od 1.000 razgovora o samopovređivanju i samoubistvu. Kompanija još nije odgovorila na Guardianov zahtjev za komentar.

OpenAI je izjavio da je GPT-5 proširio pristup kriznim linijama i dodao podsjetnike korisnicima da prave pauze tokom dugih sesija.

Kako bi poboljšala model, kompanija je saopćila da je angažovala 170 medicinskih radnika iz svoje Globalne mreže ljekara, stručnjaka za zdravstvenu zaštitu, kako bi pomogli u istraživanju tokom posljednjih mjeseci.

"Kao dio ovog rada, psihijatri i psiholozi su pregledali više od 1.800 modelnih odgovora koji uključuju ozbiljne situacije mentalnog zdravlja i uporedili odgovore iz novog GPT-5 modela chata s prethodnim modelima", saopćio je OpenAI.