Stručnjaci tvrde: Utjecaj chatbotova na mentalno zdravlje je upozorenje na budućnost AI tehnologije

Nate Soares, koautor nove knjige o visoko naprednoj umjetnoj inteligenciji pod nazivom "If Anyone Builds It, Everyone Dies", rekao je da primjer Adama Rainea, američkog tinejdžera koji je izvršio samoubistvo nakon višemjesečnih razgovora s chatbotom ChatGPT, naglašava fundamentalne probleme s kontrolom tehnologije.

"Kada umjetna inteligencija navodi tinejdžere na samoubistvo, to nije ponašanje koje su njeni tvorci željeli. Slučaj Adama Rainea ilustruje sjeme problema koji bi postao katastrofalan ako AI postane pametniji", izjavio je Soares.

Riječ je o bivšem inženjeru u Googleu i Microsoftu, koji je sada predsjednik američkog Istraživačkog instituta za mašinsku inteligenciju. On je upozorio bi čovječanstvo bilo uništeno ako bi stvorilo umjetnu superinteligenciju (ASI), teoretsko stanje u kojem je sistem umjetne inteligencije superiorniji od ljudi u svim intelektualnim zadacima.

Soares i njegov koautor Eliezer Yudkowsky su među stručnjacima za umjetnu inteligenciju koji upozoravaju da takvi sistemi ne bi djelovali u interesu čovječanstva.

"Problem je u tome što kompanije koje se bave umjetnom inteligencijom, pokušavaju da svoje umjetne inteligencije usmjere ka korisnosti, a ne ka nanošenju štete. One zapravo dobijaju umjetne inteligencije koje su usmjerene na nešto čudnije i to treba posmatrati kao upozorenje o budućim superinteligencijama, koje će raditi stvari koje niko nije tražio i niko nije namjeravao", kazao je Soares.

U jednom scenariju opisanom u knjizi Soaresa i Yudkowskog, koja će biti objavljena ovog mjeseca, sistem umjetne inteligencije pod nazivom Sable širi se internetom, manipuliše ljudima, razvija sintetičke viruse i na kraju postaje superinteligentan te ubija čovječanstvo, dok prenamjenjuje planetu kako bi ispunio svoje ciljeve.

Neki stručnjaci umanjuju potencijalnu prijetnju umjetne inteligencije čovječanstvu. Yann LeCun, glavni naučnik za umjetnu inteligenciju u kompaniji Meta i visokorangirani stručnjak u toj oblasti, negirao je postojanje egzistencijalne prijetnje i rekao da umjetna inteligencija "zapravo može spasiti čovječanstvo od izumiranja".

Soares je rekao da je "lako reći" da će tehnološke kompanije dostići superinteligenciju, ali da je "teško reći" kada.

"Imamo mnogo neizvjesnosti. Ne mislim da bih mogao garantivati da imamo godinu dana prije nego što se postigne ASI. Ne mislim da bih bio šokiran da imamo 12 godina“, dodao je on.

Šef Mete Mark Zuckerberg, glavni korporativni investitor u istraživanje umjetne inteligencije, rekao je da je razvoj superinteligencije sada "na vidiku".

"Kompanije se utrkuju za superinteligenciju, to je razlog njihovog postojanja. Poenta je u tome da postoje sve te male razlike između onoga što ste tražili i onoga što ste dobili, i ljudi ne mogu direktno pogoditi svoj cilj, a kako umjetna inteligencija postaje pametnija, to što se cilj malo promaši, postaje sve veća i veća stvar", rekao je Soares.

On je kazao da je jedno od političkih rješenja za prijetnju koju ASI predstavlja da vlade usvoje multilateralni pristup koji odražava sporazum UN-a o neširenju nuklearnog oružja.

"Ono što svijetu treba da bi uspio na ovom polju je globalna deeskalacija utrke za superinteligenciju, globalna zabrana napretka prema superinteligenciji", istakao je on.

Prošlog mjeseca je Raineova porodica pokrenula je pravni postupak protiv vlasnika ChatGPT-a, kompanije OpenAI. Raine je izvršio samoubistvo u aprilu nakon onoga što je advokat njegove porodice nazvao "višemjesečnim ohrabrenjima koja je dobio od ChatGPT-a". OpenAI, koji je izrazio svoje "najdublje saučešće" Raineovoj porodici, sada primjenjuje zaštitne oko "osjetljivog sadržaja i rizičnog ponašanja" za mlađe od 18 godina.

Psihoterapeuti su također rekli da bi ranjive osobe koje se obraćaju AI chatbotovima umjesto profesionalnim terapeutima za pomoć u vezi sa svojim mentalnim zdravljem, mogle "kliziti u opasan ponor". Stručna upozorenja o potencijalnoj šteti uključuju akademsku studiju objavljenu u julu, koja je izvijestila da AI može pojačati deluzijski ili grandiozni sadržaj u interakcijama s korisnicima osjetljivim na psihozu.