Evropska komisija protiv TikToka: Algoritam gura maloljetnike u "zečje rupe" tuge i opsesije izgledom

Kako je Komisija objavila u petak na svojoj zvaničnoj stranici, problem je takozvani efekt "zečje rupe" koji stvara TikTokov feed "For You".

Što korisnik više gleda i lajka određenu vrstu sadržaja, to mu algoritam nudi više sličnih videa. Upravo takvo beskonačno i ponavljano izlaganje, navodi Komisija, može biti štetno kad su u pitanju sadržaji o tuzi, usamljenosti ili izgledu tijela, a najosjetljiviji su maloljetnici i ranjive odrasle osobe.

Komisija procjenjuje da ponavljano gledanje takvih snimaka može pojačati osjećaj tuge i anksioznosti, izazvati nezadovoljstvo vlastitim tijelom i nisko samopouzdanje, pa čak i pogoršati postojeće poremećaje u ishrani i druga mentalna oboljenja.

"Svaki put kad korisnik skrola ili lajka video na TikToku, algoritam servira još istog, vodeći korisnike u zečje rupe iz kojih ne mogu lako izaći", izjavila je izvršna potpredsjednica Komisije Henna Virkkunen, zadužena za tehnološki suverenitet.

Dodala je da današnji nalazi ponovo pokazuju da TikTok mora pojačati napore u zaštiti dobrobiti korisnika, uključujući maloljetnike.

Prema nalazima Komisije, TikTok nije adekvatno procijenio kako dizajn algoritma, koji se oslanja na podatke o gledanju i lajkovima, vodi korisnike u ovakve spirale.

Kompanija je uvela neke mjere, poput dugmeta "Ne zanima me", ali Komisija smatra da one ne djeluju jer algoritam vremenu gledanja daje prednost nad izričitim izborom korisnika da želi vidjeti manje određenog sadržaja.

Zbog toga Brisel traži da TikTok promijeni dizajn feeda "For You": da više uvažava izričite želje korisnika, da prestane koristiti vrijeme gledanja kao signal za preporuke, da kontrole učini pristupačnijim i jednostavnijim za upotrebu te da algoritam redovno testira.

Nalazi su preliminarni i ne prejudiciraju konačnu odluku. TikTok sada može pregledati dokumente iz istrage i pisano odgovoriti, a paralelno će biti konsultovan Evropski odbor za digitalne usluge.

Ako se stavovi Komisije potvrde, TikToku, u vlasništvu kineske kompanije ByteDance, prijeti kazna do šest posto ukupnog godišnjeg prometa na svjetskom nivou.

Komisija je nalaze zasnovala na TikTokovim izvještajima o procjeni rizika i internim dokumentima, odgovorima kompanije na više zahtjeva za informacije, naučnim istraživanjima i razgovorima sa stručnjacima za algoritme preporuka, psihologiju i psihijatriju. Istragu je podržao irski regulator za digitalne usluge Coimisiún na Meán.

Ovo je treći set preliminarnih nalaza protiv TikToka ove godine u istrazi koja je pokrenuta 19. februara 2024.

Komisija je u februaru zaključila da TikTok krši Akt o digitalnim uslugama zbog dizajna koji stvara ovisnost, uključujući beskonačno skrolanje, automatsko puštanje videa i push notifikacije, a kasnije ga je optužila i da ne štiti dovoljno privatnost djece.