Malezija i Indonezija prve blokirale Muskove Grok AI alate zbog seksualnih deepfakeova

Ove mjere odražavaju rastuću globalnu zabrinutost zbog generativnih AI alata koji mogu proizvoditi realistične slike, zvuk i tekst, dok postojeće zaštitne mjere ne uspijevaju spriječiti njihovu zloupotrebu.

Chatbot Grok, kojem se pristupa preko Muskove društvene mreže X, kritiziran je jer generiše manipulisane slike, uključujući prikaze žena u bikinijima ili seksualno eksplicitnim pozama, kao i sadržaj u kojem se pojavljuju djeca.

Regulatori u dvije zemlje jugoistočne Azije naveli su da postojeće kontrole ne sprečavaju kreiranje i širenje lažnog pornografskog sadržaja, posebno onog koji uključuje žene i maloljetnike. Vlada Indonezije je privremeno blokirala pristup Groku u subotu, a potom je u nedjelju istu mjeru uvela i Malezija.

"Vlada nenamjerne seksualne deepfakeove vidi kao ozbiljno kršenje ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru", kazala je u subotu u saopćenju indonezijska ministrica za komunikacije i digitalna pitanja Meutya Hafid.

Ministarstvo je saopćilo da je mjera uvedena s ciljem zaštite žena, djece i šire zajednice od lažnog pornografskog sadržaja generisanog uz pomoć AI tehnologije.

Početni nalazi pokazali su da Grok nema efikasne zaštitne mehanizme koji bi spriječili korisnike da stvaraju i distribuiraju pornografski sadržaj na osnovu stvarnih fotografija stanovnika Indonezije, naveo je u zasebnom saopćenju Alexander Sabar, generalni direktor nadzora digitalnog prostora.

Dodao je da takva praksa može dovesti do kršenja prava na privatnost i zaštitu lika kada se fotografije manipulišu ili dijele bez pristanka, što prouzrokuje psihološku, socijalnu i reputacijsku štetu.

U Kuala Lumpuru je Malezijska komisija za komunikacije i multimediju u nedjelju naložila privremeno ograničavanje pristupa Groku nakon, kako je navedeno, "ponovljene zloupotrebe" alata za kreiranje opscenih, seksualno eksplicitnih i nenamjernih manipulisanih slika, uključujući sadržaj koji se odnosi na žene i maloljetnike.

Regulator je naveo da su dopisi upućeni ovog mjeseca kompanijama X Corp. i xAI, u kojima se traže snažnije zaštitne mjere, rezultirali odgovorima koji se uglavnom oslanjaju na mehanizme prijavljivanja od strane korisnika.

"Ograničenje se nameće kao preventivna i proporcionalna mjera dok su u toku pravni i regulatorni procesi", saopćeno je, uz dodatak da će pristup ostati blokiran dok se ne uspostave efikasne zaštitne mjere.

Grok je pokrenut 2023. godine i besplatan je za korištenje na platformi X. Korisnici mu mogu postavljati pitanja na toj društvenoj mreži i označavati objave koje su sami kreirali, kao i odgovore na objave drugih korisnika. Prošlog ljeta kompanija je uvela funkciju za generisanje slika, Grok Imagine, koja uključuje takozvani "spicy mode" sposoban da generiše sadržaj za odrasle.

Ograničenja u jugoistočnoj Aziji stižu u trenutku pojačanog nadzora nad Grokom i drugdje, uključujući Evropsku uniju, Britaniju, Indiju i Francusku. Grok je prošle sedmice ograničio mogućnost generisanja i uređivanja slika samo na korisnike koji plaćaju uslugu, nakon globalnog negodovanja zbog seksualiziranih deepfakeova ljudi, no kritičari tvrde da time problem nije u potpunosti riješen.