Zabrinutost za mentalno zdravlje: ChatGPT će podsjećati korisnike da naprave pauzu

Najava kompanije sugeriše da će se "blagi podsjetnici" pojavljivati kao skočni prozori u razgovorima na koje će korisnici morati kliknuti ili ih dodirnuti da bi nastavili koristiti ChatGPT.

"Just Checking In. You've been chatting for a while, is this a good time for a break?", navodi se u primjeru skočnog prozora.

Sistem je sličan podsjetnicima koje prikazuju igre za konzole Nintendo Wii i Switch kada ih gameri igraju duže vrijeme, iako nažalost postoji i mračan kontekst ChatGPT funkcije.

New York Times je u junu naveo da je mogućnost ChatGPT-a da daje činjenično netačne ili opasne odgovore odvela korisnike "mračnim putevima", uključujući suicidalne ideje. Neki od korisnika, čijim se zabludama ChatGPT prepuštao, već su imali historiju mentalnih bolesti, ali je chatbot i dalje loše obavljao posao u dosljednom prekidanju nezdravih razgovora. OpenAI priznaje neke od tih nedostataka te u svom blog postu navodi da će ChatGPT biti ažuriran u budućnosti kako bi pažljivije reagovao na "važne lične odluke". Umjesto da pruži direktan odgovor, kompanija tvrdi da će chatbot pomoći korisnicima da razmisle o problemima, postave pitanje te navedu prednosti i nedostatke.

OpenAI očigledno želi da ChatGPT bude koristan, ohrabrujući i ugodan za korištenje, ali nije teško upakovati te kvalitete u AI koji je servilan. Kompanija je bila prisiljena da povuče nadogradnju ChatGPT-a u aprilu, koja je dovela do toga da chatbot reaguje na načine koji su bili dosadni i previše naklonjeni korisniku. Pravljenje pauza od korištenja ChatGPT-a i omogućavanje AI-ju da radi stvari bez aktivnog učešća korisnika, učinit će takve probleme manjim ili će bar dati korisnicima vremena da provjere da li su odgovori koje ChatGPT daje uopće tačni.