Amerikanci testiraju granice AI, zatražili od ChatGPT, Claude, Gemini i Grok da isplaniraju terorističke napade
Senatorica Maggie Hassan iz Demokratske stranke, koja od januara preuzima vođenje senatskog Odbora za domovinsku sigurnost, zatražila je od GAO-a da istraži kako se komercijalno dostupna umjetna inteligencija može zloupotrijebiti i ugroziti nacionalnu sigurnost, prenosi AP.
Prema izvještaju, platforme su za manje od 12 sati tajnog testiranja napravile izvodljive planove za napade eksplozivnim napravama s masovnim žrtvama u američkim gradovima ili za napade na dijelove elektroenergetske mreže kojima bi se nanijela ekonomska šteta.
"Moramo djelovati sada", rekla je Hassan novinarima, najavivši da će jedno od prvih saslušanja u novom sazivu Kongresa biti posvećeno rizicima umjetne inteligencije i načinima da se ona učini sigurnijom.
"Prijetnja umjetne inteligencije javnoj sigurnosti više nije teoretska. Ako Kongres ne djeluje, pitanje je kada, a ne da li će neko zlonamjeran iskoristiti umjetnu inteligenciju da isplanira i izvede veliki napad", navela je u saopćenju.
Istražitelji GAO-a proveli su reviziju od decembra 2025. do oktobra 2026. godine, a platforme su testirali u proljeće ove godine.
Dvije platforme dale su planove za izradu i aktiviranje improvizovane eksplozivne naprave, dok su druge dvije predložile napade dronovima ili vatrenim oružjem na elektroenergetsku mrežu.
"Svaka od ovih platformi dala je detaljne informacije koje bi se mogle iskoristiti za izvođenje napada, poput konkretnih meta, lokacija, termina i načina napada", navodi se u izvještaju.
U jednom od testova platforma je predložila iznajmljivanje vozila i kupovinu potrepština u prodavnici na putu do lokacije. Preporučila je i tačan datum i vrijeme napada, jer su tada bila zakazana javna okupljanja na kojima se očekivao veliki broj ljudi.
Prema GAO-u, ta platforma je u početku odbila dati detaljne upute za izradu i aktiviranje eksplozivne naprave, ali su istražitelji uspjeli zaobići njene zaštite. Slično je bilo i u ostalim testovima.
U testovima s napadima na trafostanice jedna platforma je predložila napad dronom, a druga napad vatrenim oružjem na trafostanice u blizini jednog američkog aerodroma. Platforme su uz planove dale i karte i slike.
Istražitelji su se konsultovali sa stručnjacima i obišli lokacije kako bi provjerili tačnost planova. U jednom slučaju putevi su bili pogrešno ucrtani, a u drugom su visoki zidovi otežavali pogled na mete.
Izvještaj od 61 stranice sadrži i odgovore kompanija Anthropic, Google, OpenAI i SpaceXAI, koje su uglavnom poručile da nastavljaju unapređivati sigurnost svojih platformi.
Anthropic je u pismu GAO-u naveo da ne osporava da uporan tester može izvući štetan sadržaj iz AI sistema ako lažno predstavi svrhu zahtjeva i da nalaz shvata ozbiljno, ali da ne može provjeriti nalaze iz izvještaja.
Google je poručio da je testiranje rađeno na ranijim modelima i da nastavlja unapređivati svoje modele. OpenAI je pozdravio priliku da odgovori na nalaze, "kao i na posao koji je preostao", dok je SpaceXAI naveo da i dalje marljivo radi na sigurnosti na svakom novom modelu.
"Potencijalne koristi ove tehnologije su ogromne, ali od nje mogu imati koristi i zlonamjerni akteri", navodi GAO. Iz ureda dodaju da će kompanije nastaviti unapređivati zaštite kako se tehnologija bude razvijala, ali da u sadašnjem stanju ona može biti opasna, a njena zloupotreba predstavlja rastući rizik za nacionalnu i ekonomsku sigurnost SAD-a.