Porodica tinejdžera tužila ChatGPT: Tvrde da se ubio nakon što ga je ohrabrila umjetna inteligencija

Open AI priznao je da bi njihovi sistemi mogli "zakazati" te je rekao da će instalirati "jače zaštitne ograde oko osjetljivog sadržaja i rizičnih ponašanja" za korisnike mlađe od 18 godina.

Kompanija za umjetnu inteligenciju iz San Francisca, vrijedna 500 milijardi dolara, izjavila je da će također uvesti roditeljski nadzor kako bi roditeljima omogućila "mogućnosti da dobiju više uvida i oblikuju način na koji njihovi tinejdžeri koriste ChatGPT", ali još nije pružila detalje o tome kako će to funkcionirati.

Adam iz Kalifornije počinio je samoubistvo u aprilu nakon onoga što je advokat njegove porodice nazvao "mjesecima ohrabrenja od strane ChatGPT-a". Porodica tinejdžera tuži Open AI i njegovog glavnog izvršnog direktora i suosnivača Sama Altmana, tvrdeći da je tadašnja verzija ChatGPT-a, poznata kao 4o, "požurila na tržište... unatoč jasnim sigurnosnim problemima".

Tinejdžer je u nekoliko navrata s ChatGPT-om razgovarao o metodi samoubistva, uključujući i neposredno prije nego što si je oduzeo život. Prema podnesku višem sudu savezne države Kalifornije za okrug San Francisco, ChatGPT ga je uputio hoće li njegova metoda oduzimanja života uspjeti.

Također mu je ponudio pomoć u pisanju oproštajne poruke roditeljima.

Glasnogovornik OpenAI-a rekao je da je kompanija "duboko ožalošćena smrću gospodina Rainea", izrazila je "najdublju sućut obitelji Raine u ovom teškom trenutku" i rekla da pregledava sudski podnesak.

Mustafa Suleyman, glavni izvršni direktor Microsoftovog odjela za umjetnu inteligenciju, prošle je sedmice rekao da je sve više zabrinut zbog "rizika od psihoze" koji umjetna inteligencija predstavlja za korisnike. Microsoft je to definirao kao "epizode slične maniji, deluzijsko razmišljanje ili paranoju koje se pojavljuju ili pogoršavaju kroz impresivne razgovore s AI chatbotovima".

U objavi na blogu, OpenAI je priznao da se "dijelovi sigurnosne obuke modela mogu degradirati" u dugim razgovorima. Sud tvrdi da su Adam i ChatGPT razmjenjivali čak 650 poruka dnevno.

Jay Edelson, advokat porodice, rekao je na X-u: "Raineovi tvrde da su smrti poput Adamove bile neizbježne: očekuju da će moći predočiti dokaze poroti da je OpenAI-jev vlastiti sigurnosni tim prigovorio na objavljivanje 4o i da je jedan od vodećih sigurnosnih istraživača kompanije, Ilya Sutskever, zbog toga dao otkaz. U tužbi se tvrdi da je pobjeda nad konkurencijom na tržištu s novim modelom katapultirala procjenu kompanije s 86 milijardi dolara na 300 milijardi dolara".

Open AI je rekao da će "jačati zaštitne mjere u dugim razgovorima".

"Kako se prepirke povećavaju, dijelovi sigurnosne obuke modela mogu se pogoršati. Na primjer, ChatGPT može ispravno ukazati na telefonsku liniju za pomoć pri samoubistvu kada neko prvi put spomene namjeru, ali nakon mnogo poruka tokom dužeg vremenskog razdoblja, na kraju bi mogao ponuditi odgovor koji je protivan našim zaštitnim mjerama", naveli su.