Nakon niza tužbi: ChatGPT uvodi funkciju koja alarmira porodicu u slučaju rizika od samoubistva

Ova opcija omogućava odraslim korisnicima ChatGPT-a da unutar svog korisničkog računa imenuju drugu osobu kao pouzdani kontakt, poput člana porodice ili prijatelja. U slučajevima kada razgovor krene u pravcu samopovređivanja, OpenAI će ohrabriti korisnika da se obrati tom kontaktu, ali će istovremeno poslati i automatsko upozorenje imenovanoj osobi, podstičući je da provjeri kako je korisnik i da li mu je potrebna pomoć.

Kako navodi TechCrunch, ovaj potez dolazi nakon što se OpenAI suočio sa talasom tužbi porodica osoba koje su počinile samoubistvo nakon razgovora sa njihovim chatbotom. U nekoliko slučajeva, porodice tvrde da je ChatGPT ohrabrivao njihove voljene da si oduzmu život, ili im je čak pomagao u planiranju samog čina.

Brza ljudska provjera i zaštita privatnosti

OpenAI trenutno koristi kombinaciju automatizacije i ljudske provjere kako bi se nosio sa potencijalno opasnim incidentima. Određeni "okidači" u razgovoru alarmiraju sistem o suicidalnim mislima, a informacije se potom prosljeđuju timu za sigurnost.

Kompanija tvrdi da svaki put kada zaprimi ovakvu obavijest, incident pregledava ljudski tim. "Trudimo se da ove sigurnosne obavijesti pregledamo za manje od sat vremena", poručuju iz OpenAI-ja.

Ukoliko interni tim procijeni da situacija predstavlja ozbiljan sigurnosni rizik, ChatGPT šalje upozorenje pouzdanom kontaktu – putem e-maila, SMS-a ili notifikacije unutar aplikacije. Upozorenje je kratko i dizajnirano tako da ne narušava privatnost korisnika, odnosno ne sadrži detalje o samom razgovoru sa umjetnom inteligencijom.

Nova funkcija "Trusted Contact" nadovezuje se na sigurnosne mjere uvedene u septembru prošle godine, koje su roditeljima dale mogućnost nadzora nad računima tinejdžera, uključujući i primanje obavijesti ukoliko sistem procijeni da je dijete u opasnosti. Također, ChatGPT već neko vrijeme nudi automatska upozorenja koja korisnicima sugerišu traženje stručne medicinske pomoći ukoliko se dotaknu teme samopovređivanja.

Ipak, važno je istaći ključno ograničenje, opcija "Trusted Contact" je potpuno dobrovoljna. Čak i ako se zaštita aktivira na određenom računu, svaki korisnik može imati više različitih ChatGPT profila. Isti problem važi i za roditeljske kontrole koje su također opcionalne.

"Trusted Contact je dio širih napora OpenAI-ja da izgradi AI sisteme koji pomažu ljudima tokom teških trenutaka. Nastavit ćemo raditi sa ljekarima, istraživačima i kreatorima politika kako bismo unaprijedili način na koji AI sistemi reaguju kada se ljudi suočavaju sa ozbiljnim problemima", zaključili su iz kompanije u zvaničnoj objavi.