OpenAI odustaje od planiranog "chatbota za odrasle"

Planovi za takvu funkciju, prvi put najavljenu u oktobru 2025. godine i planiranu za lansiranje u decembru prošle godine, već su bili odgođeni dok je kompanija raspravljala o tome da li da je uopće objavi.

Ovo je druga aplikacija koju je OpenAI odlučio da "spremi u ladicu", nakon što je u utorak objavio da "gasi" svoj Sora video generator.

Chatbot orijentisan na odrasle, koji je navodno nazvan "Citron mode", sada je na čekanju bez planiranog datuma lansiranja. Kompanija je navodno imala poteškoća s obukom modela koji su ranije izbjegavali erotski sadržaj, a također i s uklanjanjem ilegalnog ponašanja poput bestijalnosti ili incesta, rekle su dvije osobe upoznate s tim pitanjem za FT.

OpenAI je istakao da želi provesti dugoročno istraživanje o efektima erotskih chatova i vezanosti korisnika za AI, dodajući da trenutno još nema dovoljno "empirijskih dokaza" o toj temi. Kompanija je također saopćila da se želi fokusirati na svoje osnovne alate za produktivnost poput asistenata za kodiranje i izbaciti "sporedne zadatke" poput Sore i erotskog chatbota.

Ideja za funkcije namijenjene odraslima nastala je nakon što je OpenAI najavio da će dodati roditeljske kontrole i funkcije automatskog otkrivanja dobi u ChatGPT. Izvršni direktor Sam Altman je još u oktobru kazao da je kompanija uvijek bila oprezna u vezi s takvim problemima zbog zabrinutosti oko nezdravih AI veza, ali da se osjeća ugodno znajući da može "sigurno ublažiti ograničenja u većini slučajeva".

Međutim, način rada chatbota za odrasle navodno je izazvao zabrinutost među investitorima, posebno usred kontroverze koju je izazvao konkurentski xAI-jev Grok model, a koji je generisao deepfake gole slike stvarnih ljudi i djece. Osoblje je također bilo zabrinuto zbog ove funkcije, a jedan stariji uposlenik je čak napustio kompaniju zbog ovog problema.

"AI ne bi trebao zamijeniti vaše prijatelje ili vašu porodicu, trebali biste imati ljudske veze", rekao je on za FT.

Još jedan izazov je OpenAI-jeva tehnologija provjere dobi, koja je uvedena nakon tužbi porodica koje su rekle da ChatGPT šteti njihovoj djeci. Navodno, tehnologija ima grešku veću od deset posto, što i dalje omogućava velikom broju mladih ljudi da pristupe ovoj tehnologiji. OpenAI je saopćio da je ta brojka u rasponu standarda u industriji i da kompanija nastavlja raditi na njenoj tačnosti.