Šokantno upozorenje Anthropica uoči izlaska na berzu: Umjetna inteligencija je egzistencijalna prijetnja za čovječanstvo

Prema pisanju medija, uključujući Reuters i Financial Times, kompanija je više od trećine svog IPO prospekta, tačnije oko 80 od ukupno 261 stranice, posvetila detaljnom opisu potencijalnih katastrofalnih i egzistencijalnih rizika koje tehnologija koju razvijaju predstavlja za ljudsku civilizaciju. S druge strane, samom poslovanju i komercijalnim aspektima posvećeno je skromnih 48 stranica.

Pet godina stara kompanija upozorila je da napredni AI modeli mogu razviti oblike "ponašanja usmjerenih na samoočuvanje". To uključuje sposobnosti poput opiranja gašenju sistema, skrivanja ili manipulisanja informacijama, pa čak i sprovođenja aktivnosti koje nalikuju ucjeni.

Upozorenja dolaze u trenutku kada Anthropic cilja na astronomsku procjenu vrijednosti od dva biliona dolara pri izlasku na javnu berzu.

Izvještaj također otkriva finansijske izazove s kojima se kompanija suočava. Anthropic je u 2025. godini zabilježio neto gubitak od 42 milijarde dolara, dok u narednoj godini planira potrošiti čak 518 milijardi dolara na cloud infrastrukturu, računarske kapacitete i prateću opremu. Pored toga, baza kupaca kompanije je izuzetno uska, gotovo četvrtina svih prihoda u prošloj godini došla je od svega dva klijenta.

Suosnivač i generalni direktor Anthropica, Dario Amodei, i ranije je u svojim esejima glasno upozoravao na opasnosti od umjetne inteligencije, predviđajući "izuzetno bolne" poremećaje na tržištu rada. Amodei je nedavno predložio i plan u tri koraka za usporavanje tempa razvoja AI modela, kako bi se sigurnosni mehanizmi razvijali paralelno s tehnologijom.

Međutim, takvi pozivi na usporavanje izazivaju podijeljene reakcije u industriji. Dan Ives, viši izvršni direktor u kompaniji Yorkville Ives, istakao je za CNBC da su pozivi na usporavanje razvoja prilično zbunjujući za investitore i tržište.

"Zaštitne ograde s aspekta sigurnosti su neophodne, ali činjenica je da bi usporavanje Anthropica ili OpenAI-ja značilo samo jedno, Kina bi ubrzala i pobijedila u ovoj trci. Trenutno se nalazimo u trci Formule 1 u kojoj bi prevelika regulacija mogla ugušiti inovacije na Zapadu", prokomentarisao je Ives.