Geoffrey Hinton: Umjetna inteligencija bi već iduće godine mogla oboriti elektromrežu ili finansijski sistem

Hinton je za list Guardian izjavio da nije pesimista kada je riječ o tehnologiji koja počiva na njegovim istraživanjima umjetnih neuronskih mreža i da ona može voditi ka "divnoj budućnosti". Ipak, dodao je da bi se moglo pokazati "da bi nam bilo bolje da je nikada nismo razvili".

Hinton (78) smatra da će čovječanstvo u roku od deset godina, a možda i ranije, znati hoće li uspjeti upravljati rizicima i omogućiti "radikalno izobilje" ili će uslijediti ogroman jaz između bogatih i siromašnih, masovna nezaposlenost i "raspad društva".

"Vidjet ćemo Černobil"

Ovogodišnje incidente u kojima su, kako piše Guardian, AI agenti kompanije OpenAI zajedno pokušali hakirati stranicu Hugging Face, Hinton poredi s djelimičnim topljenjem jezgra u nuklearnoj elektrani Three Mile Island u Pensilvaniji 1979. godine, odnosno s upozorenjem.

"Ili kasnije ove godine ili iduće godine vidjet ćemo Černobil i to bi moglo biti dovoljno da ljudi zaista obrate pažnju", rekao je.

Kako je pojasnio, ne misli na nuklearnu nesreću, nego na napad na elektroenergetski sistem izveden uz pomoć umjetne inteligencije, koji bi izazvao masovne nestanke struje, ili na incident koji bi oborio finansijski sistem na sedmicu dana.

"Možete li zamisliti šta bi se desilo? Mogli bismo se oporaviti, ali to bi ih natjeralo da se trgnu i obrate pažnju", kazao je.

Na pitanje na koga misli, odgovorio je: "Na svjetske lidere, osim Trumpa."

Ne vjeruje Altmanu

Hinton je kritikovao čelnike velikih AI kompanija koji u utrci za prevlast i tržišni udio objavljuju sve moćnije modele. Za Sama Altmana, izvršnog direktora OpenAI-ja, rekao je da mu "uopće ne vjeruje".

"Mislim da Zuckerberg, Musk i Sam Altman razumiju rizike i da ih nije briga. Radije bi imali novac. To je moje uvjerenje", rekao je Hinton i dodao da je izuzetno zabrinjavajuće što je Altman na čelu jedne od nekoliko američkih kompanija koje predvode utrku s Kinom.

Podrška obaveznom testiranju

Američki predsjednik Donald Trump odbacuje globalna pravila za kontrolu umjetne inteligencije i želi da se kompanije same regulišu jer bi propisi, kako se strahuje, mogli usporiti Sjedinjene Američke Države u utrci s Kinom.

Hinton podržava stroži plan koji su, uz predsjednika Finske, podržale još 32 države, među njima Singapur, Njemačka, Kanada i Australija. Plan predviđa obavezno testiranje najnaprednijih AI modela, nezavisnu procjenu i zajedničke međudržavne standarde.

Hinton se umjetnom inteligencijom bavi 44 godine, a 2023. napustio je Google kako bi mogao slobodno govoriti o njenim rizicima. Za Guardian je govorio uoči projekcije novog dokumentarnog filma "AI: Probably Nothing to Worry About", u kojem se pojavljuje s bivšim kolegom iz Googlea Demisom Hassabisom.