Regulatori u SAD-u i Evropi pojačavaju nadzor nad AI sistemima u bankama

Prema informacijama koje je Reuters dobio od šest izvora upoznatih s regulatornim aktivnostima, nadležna tijela sve intenzivnije ispituju koliko su banke spremne odgovoriti na rizike povezane s najnaprednijim modelima umjetne inteligencije.

Posebna pažnja usmjerena je na sisteme koji mogu samostalno donositi odluke i izvršavati zadatke uz minimalan ljudski nadzor.

Američke Federalne rezerve (Fed), Ured kontrolora valute (OCC) i Federalna korporacija za osiguranje depozita (FDIC) od banaka traže informacije o načinu korištenja autonomnih AI sistema, uključujući njihovu primjenu u zaštiti od cyber napada. Regulatore zanima i koriste li banke tehnologiju razvijenu u Kini, mogu li pratiti i kontrolirati odluke autonomnih AI agenata te postoje li mehanizmi za njihovo brzo isključivanje u slučaju nepredviđenog ponašanja.

Ispituje se u kojoj mjeri ljudi zadržavaju kontrolu nad ključnim odlukama i mogu li banke spriječiti da sistemi umjetnu inteligencije djeluju izvan svojih ovlaštenja. Istovremeno, evropski regulatori, uključujući Banku Engleske i Evropsku centralnu banku (ECB), upozoravaju da bi ubrzani razvoj ove tehnologije mogao izazvati ozbiljne poremećaje na finansijskim tržištima ranije nego što se očekivalo.

Prema riječima jednog visokopozicioniranog rukovodioca velike evropske banke, u finansijskom sektoru postoji zabrinutost da bi značajne posljedice mogle nastupiti već u narednih šest mjeseci. Britanski regulatori zbog toga potiču najveće banke da razmotre uspostavljanje nezavisnih rezervnih tehnoloških sistema koji bi omogućili nastavak poslovanja čak i u slučaju potpunog kompromitiranja primarne informatičke infrastrukture.

Takvi sistemi zahtijevaju značajna ulaganja, ali se smatraju važnim za očuvanje kontinuiteta bankarskih usluga u slučaju velikih cyber napada. Od banaka u eurozoni također se traži da detaljno evidentiraju gdje i na koji način koriste umjetnu inteligenciju, uključujući tehnologije vanjskih dobavljača, kako bi se utvrdilo mogu li se kritični sistemi sigurno zaustaviti i ponovo pokrenuti.

Na rizike je u utorak upozorio i Međunarodni monetarni fond (MMF), navodeći da bi veliki cyber napad na ključnu finansijsku instituciju ili infrastrukturu mogao narušiti povjerenje u finansijski sistem.