Nobelovac Paul Krugman: Internet bi mogao postati zatvoreno naselje, a mi siromašniji

Krugman je to napisao u tekstu objavljenom na Facebooku. Naveo je da ima dugu listu briga kada je riječ o umjetnoj inteligenciji. Smatra da ta tehnologija ide na štetu radnika i da može ubrzati jačanje oligarhije.

Ocijenio je i da izgradnja podatkovnih (data) centara istiskuje ulaganja u gotovo sve drugo, iako ti centri zapošljavaju malo ljudi. Treća briga mu je da bi AI mogao biti balon, čije bi pucanje američku ekonomiju vratilo u zamku likvidnosti. Ipak, kako je priznao, tek je prošle sedmice shvatio da bi umjetna inteligencija mogla internet kakav poznajemo učiniti neupotrebljivim, i to za nekoliko mjeseci.

"Ovo nije hipotetički rizik u budućnosti. Dešava se dok ovo čitate", napisao je Krugman.

Počelo je s PHP-om

Povod je prošlosedmična kriza. Vladine, školske i bolničke internet stranice širom Evrope tada su isključene zbog dvije kritične ranjivosti u PHP-u, programskom jeziku na kojem radi veliki dio interneta. Propusti su, kako je prenijela agencija Reuters, godinama bili skriveni u kodu dok ih nije otkrila umjetna inteligencija.

Krugman je prenio i konstataciju Costina Raiua, suosnivača firme za kibernetičku sigurnost TLP:Black, koji je za Reuters kazao da AI pokreće utrku u iskorištavanju propusta. Kao sljedeći korak Raiu je najavio "masovno kompromitovanje svakog ranjivog web servera na internetu".

Reuters je dva dana kasnije objavio da sedam stručnjaka za kibernetičku sigurnost očekuje nove ispade jer umjetna inteligencija otkriva sve više propusta u softveru. Jedan od stručnjaka očekuje da će narednih nekoliko godina "svake sedmice izgledati kao da se nebo ruši".

Stari kod, novi hakeri

Krugman, koji je naglasio da nije tehnolog, problem objašnjava ovako. Internet stranice rade na složenom softveru s više slojeva, u kojem zbog same složenosti uvijek ima sigurnosnih propusta. Veliki dio tog softvera je star. PHP potiče s početka 1990-ih godina, iz vremena kada današnje tehnike hakovanja nisu postojale.

Ljudima sa zlim namjerama često nedostaje vremena i strpljenja da stari kod pregledaju red po red, a AI modeli to ograničenje nemaju, napisao je Krugman. Dodao je da problem otvara i sama zakrpa. Kada se objavi, hakeri dobiju informaciju koju mogu iskoristiti protiv svih koji je nisu odmah instalirali.

Krugman se pozvao i na britanskog analitičara Azeema Azhara, autora elektronskog biltena (newsletter) Exponential View, koji je događaje od prošle sedmice nazvao "trenutkom Wuhana za internet". Time ih je uporedio s pojavom koronavirusa koji je izazvao pandemiju i privremeno gurnuo svjetsku ekonomiju u duboku krizu.

Azhar smatra i da sigurnosna ograničenja ugrađena u AI modele nisu velika prepreka jer se relativno lako mogu poništiti.

Internet kao zatvoreno naselje

Krugman ne vjeruje da ćemo se vratiti indigo papiru i ormarima s fasciklama. Po Azharu, internet bi se mogao razdvojiti u djelimično zatvorene mreže. To bi ličilo na rani AOL (America Online, američka kompanija koja je 1990-ih bila najveći pružalac internet usluga u Sjedinjenim Američkim Državama) ili na sistem SABRE, računarski sistem za rezervaciju avionskih karata koji su razvili aviokompanija American Airlines i IBM. U takve mreže se izvana može ući, ali teže.

Krugman je to uporedio sa zatvorenim naseljem u kojem su pred kraj života živjeli njegovi roditelji. Gosti su ih mogli posjetiti, ali samo ako bi ih roditelji prethodno prijavili osoblju na kapiji. Sistem je funkcionisao, ali je bio naporan i spor.

Cijena sigurnosti

Prema njegovoj gruboj računici, koju nije objavio, otvoreni internet podigao je bruto domaći proizvod (BDP) za 10 posto. Sigurniji i zatvoreniji sistem dugoročno bi značio odricanje od samo dijela tog dobitka.

Krugmana više brine kratki rok jer je cijela ekonomija danas prilagođena otvorenom internetu. Kao primjer je naveo kupovinu avionskih karata. Kada bi se karte ponovo morale kupovati u putničkoj agenciji sa zaštićenom vezom, problem bi bio što većine tih agencija više nema i ne mogu se otvoriti preko noći. Isto bi se, upozorava, moglo desiti u cijeloj ekonomiji.

Podsjetio je da su zagovornici umjetne inteligencije do nedavno govorili o godišnjem ekonomskom rastu od 10 do 15 posto, što smatra besmislicom. Sada, kako je napisao, postoji stvarna mogućnost da nas AI narednih godina učini siromašnijim jer jača one sa zlim namjerama i primorava nas da se naglo prilagođavamo novim prijetnjama.