Roblox koristi AI funkciju za preformulisanje neprikladnog govora u chatu u realnom vremenu

Online igra već neko vrijeme koristi AI filtere kako bi blokirala bilo koji govor koji je u suprotnosti s njenom politikom, ali je cenzurisane chatove zamijenila nizom znakova rešetke (####). Roblox priznaje da nailaženje na previše ovih znakova može biti ometajući i otežati praćenje razgovora. Ova nova funkcija će umjesto toga zamijeniti riječi i fraze onim što AI smatra prikladnijim zamjenama.

Rajiv Bhatia, šef ureda za sigurnost Robloxa, rekao je da igra počinje rješavati problem s psovkama. Na primjer, ako korisnik pošalje "Hurry TF up" u chatu, sistem će to zamijeniti sa "Hurry up!". Svi u chatu će vidjeti bilješku da je poruka preformulisana, a pošiljalac će vidjeti koji je dio izbačen. Korisnik koji nastavi psovati u chatu, bit će kažnjen zbog kršenja Roblox politike čak i ako AI preformuliše njihove poruke.

"Kako se ovi sistemi skaliraju, oni stvaraju temelje za uljudnost, gdje povratne informacije u stvarnom vremenu pomažu korisnicima da uče i usvoje naše Standarde zajednice", napisao je Bhatia u objavi na blogu.

Preformulisanje je uvedeno u chatove između korisnika s provjerenom dobi u sličnim starosnim grupama i na svim jezicima koje alat za prevođenje igre podržava. Roblox je uveo obavezni sistem provjere dobi još u januaru nakon što su se pojavili izvještaji da ima "problem s pedofilima", gdje odrasli igrači navodno koriste igru ​​za zlostavljanje djece. Djeca mlađa od 13 godina više ne mogu koristiti chat u igri izvan određenih iskustava, dok svi ostali mogu chatati s igračima otprilike svojih godina.

Međutim, provjera dobi nije spriječila vlasti da tuže Roblox. Okrug LA u tužbi podnesenoj u februaru navodi da Roblox zna da njegova platforma "čini djecu lakim plijenom za pedofile". Državni tužioc Louisiane također je podnio tužbu rekavši da je Roblox "stvorio javni park i napunio ga seksualnim predatorima koji vrebaju djecu".