Lideri AI kompanija pripremaju se za političku reakciju nakon mogućeg velikog incidenta

Prema navodima Axiosovog teksta, zvaničnici u industriji očekuju veliki događaj, najvjerovatnije cybernapad, koji bi mogao obustaviti pristup finansijskim uslugama, internetu ili čak električnoj energiji i vodi. Prvi primjer značajne štete u stvarnom svijetu izazvane nesigurnom umjetnom inteligencijom dodatno bi okrenuo već opreznu javnost protiv tehnologije i njenih lidera, uključujući izvršnog direktora Anthropica Darija Amodeija i izvršnog direktora OpenAI-ja Sama Altmana.

Planiranje scenarija uobičajeno je u kompanijama i sektoru nacionalne sigurnosti, ali razlika je u tome što mnogi vodeći istraživači i rukovodioci u AI industriji vjeruju da je veliki incident neizbježan. Glasnogovornik OpenAI-ja rekao je da kompanija provodi vježbe pripravnosti: "OpenAI provodi vježbe pripravnosti u kojima timovi razgovaraju i prolaze kroz niz mogućih scenarija. Ti scenariji se ne tretiraju kao neizbježni, već služe da nam pomognu da se pripremimo za različite okolnosti." Anthropic je odbio komentar.

Krivica bi, prema tim procjenama, mogla biti usmjerena prema kompanijama ako se skupina autonomnih agenata otme kontroli iz internog testnog okruženja ili ako zlonamjerni akter pronađe neočekivane načine da iskoristi dostupne modele. Kao primjer štete navodi se nedavna kampanja protiv južnokorejskih finansijskih organizacija, uključujući prijavljene upade u dvije banke.

Haker iz Kine navodno je koristio AI alate razvijene u Kini, uključujući DeepSeek, kako bi ukrao podatke desetina hiljada klijenata banaka. Prema kompaniji za cyber sigurnost CrowdStrike, napadač je koristio Claude Code da zatraži pomoć u pronalaženju mjesta za prodaju ukradenih podataka.

Planeri u AI industriji pretpostavljaju da bi demokrate, ako ojačaju nakon međuizbora, brzo pokušale ograničiti AI, ali bi se suočile s ozbiljnim preprekama. Među njima su Kongres koji ne prati tempo AI revolucije, ekonomija snažno povezana s izgradnjom AI infrastrukture i veliki broj modela otvorenih težina koji se već mogu slobodno preuzeti i zloupotrijebiti.

Pripreme uključuju takozvano red-teaming testiranje najgorih scenarija i fokusirane su na ubrzano educiranje članova Kongresa. Kompanije smatraju da regulacija trenutno nema šanse za usvajanje, ali žele utjecati na zakone i politike kojima bi se američki lideri mogli okrenuti nakon prvog katastrofalnog incidenta.