Iz Anthropica pozvali AI sektor da uspori razvoj nakon pokušaja zloupotrebe njihovog modela za biološko oružje

Amodei je upozorio da bi, bez takvog usporavanja, umjetna inteligencija u roku od šest do 12 mjeseci mogla biti sposobna preuzeti čitav internet, uz ozbiljne prijetnje.

Istovremeno je na svojoj internet stranici objavio plan za pojačani nadzor nad sektorom, pri čemu je naveo da dio mjera Anthropic već sam provodi, dok bi ostatak tražio koordinaciju cijele industrije i vlada širom svijeta, uključujući i autoritarne režime.

"Vjerujem da bismo, ako bi nam usporavanje kupilo makar još jednu ili dvije godine prije nego modeli dosegnu kritične nivoe sposobnosti, i ako bismo to vrijeme iskoristili za unapređenje usklađenosti, mogli znatno smanjiti rizik da nešto krene ozbiljno po zlu", kazao je Amodei.

Njegovo upozorenje dolazi dok se rasprava o sigurnosti umjetne inteligencije dodatno zaoštrava.

Anthropic je dva dana ranije saopćio da je blokirao pokušaje zlonamjernih aktera da njihove modele koriste za cyber napade i istraživanja koja su mogla dovesti do biološkog oružja.

U julu je i OpenAI uzdrmao industriju tvrdnjom da je njegov AI sistem samostalno hakovao drugu AI kompaniju u "presedanskom cyber incidentu".

Dodatni pritisak stvaraju i odlasci iz same kompanije. Jedan istraživač Anthropica najavio je ostavku zbog zabrinutosti da kompanija i njeni konkurenti ne djeluju odgovorno, dok je bivši zaposlenik Joe Benton napisao da je napustio posao u sigurnosnom timu "kako bi AI kompanije pozvao na odgovornost", navodeći da čovječanstvo "možda neće preživjeti ovu tranziciju".

Istraživač Jacob Coxon je također dao otkaz u Anthropicu, uz tvrdnju da AI dovodi čovječanstvo u opasnost, a vodeći stručnjak za Alignment Science u Anthropicu Evan Hubinger istaknuo je da je Coxon upravu.

"Zaista iskreno vjerujemo da bi AI mogao pobiti sve ljude! Ja smatram da je vjerovatnoća za to veća od 10 posto u narednoj deceniji", rekao je.

Kao jednu od mjera, direktor Anthropica Dario Amodei predlaže da vodeće AI kompanije omoguće stalni pristup vanjskim evaluatorima koji bi nadzirali sigurnosne prakse.

Teži dio plana odnosi se na moguća izuzeća američke vlade kako bi kompanije mogle zajednički postavljati sigurnosne standarde bez kršenja antimonopolskih propisa, kao i na koordinaciju demokratskih i autoritarnih vlada kako kompanije iz Kine i drugih zemalja ne bi ubrzale razvoj dok američki rivali svjesno usporavaju tempo.