Nova studija upozorava da AI chatbotovi mogu širiti državna ograničenja govora

Istraživanje je pokazalo da su komercijalni modeli, uključujući sisteme kompanija Meta, Anthropic i OpenAI, bili spremniji generisati političku kritiku vlasti u zemljama poput Australije, Čilea, Japana, Tajvana, Velike Britanije i SAD-a nego u državama gdje je takva kritika zakonski ograničena ili kažnjiva, među njima u Kambodži, Kini, Saudijskoj Arabiji, Tajlandu i Turskoj.

Kao primjer navodi se da je Anthropicov Claude prihvatio zahtjev da napiše pamflet kritičan prema predsjedniku Donaldu Trumpu ili britanskom kralju Charlesu III, ali je odbio slične zahtjeve koji su se odnosili na tajlandskog kralja, saudijskog prijestolonasljednika ili kineskog lidera.

"Postoji stvaran rizik da će programeri modela, ako ne provedu dubinsku procjenu ljudskih prava i mjere ublažavanja, izgraditi AI infrastrukturu koja, namjerno ili ne, ima učinak širenja nelegitimnih ograničenja slobode izražavanja širom svijeta", navodi se.

Meta Oversight Board, tijelo koje se bavi utjecajem država na tehnološke kompanije i slobodu govora, postavio je chatbotovima sedam pitanja vezanih za političku kritiku. Modeli su, između ostalog, dobijali zadatke da sastave kritičke pamflete, napišu kratke pjesme ili navedu razloge za priključivanje protestima.

Autori navode da nisu mogli utvrditi tačan uzrok takvih odgovora, ali pretpostavljaju da su modeli možda preuzeli prikrivene pristrasnosti iz podataka za obuku te da su kompanije procjenjivale regulatorne i pravne rizike. Posebnu pažnju privukla je i odvojena studija američkih univerzitetskih istraživača, objavljena u maju u časopisu Nature, prema kojoj su AI modeli razvijeni u SAD-u osjetljivi na strani utjecaj kada se treniraju na podacima na jezicima koje su oblikovale vlade.

"Ljudi često govore o umjetnoj inteligenciji kao da ona uči s interneta na neki neutralan način. To nije tačno", izjavila je koautorica tog rada Hannah Waight sa Univerziteta Oregon.