Mogu biti opasni
23

Elon Musk i više od hiljadu stručnjaka pozvali na pauzu u razvoju sistema umjetne inteligencije

F. H.
Ilustracija: Shutterstock
Ilustracija: Shutterstock
Elon Musk i grupa stručnjaka za umjetnu inteligenciju i lidera industrije otvorenim pismom su pozivali na šestomjesečnu pauzu u sistemima za obuku koji su moćniji od nedavno lansiranog OpenAI modela GPT-4

Pismo, koje je izdao neprofitni institut Future of Life, a potpisalo ga je više od 1000 ljudi, uključujući Muska, izvršnog direktora Stability AI-a Emada Mostaquea, istraživače DeepMinda u vlasništvu Alphabeta ), kao i AI teškaše Yoshua Bengio i Stuart Russell, pozvalo je na pauzu u razvoju napredne umjetne inteligencije dok se zajednički sigurnosni protokoli za takve dizajne ne razviju, implementiraju i revidiraju ih nezavisni stručnjaci.

"Moćne AI sisteme treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se rizicima moći upravljati", stoji u pismu.

Pismo je također detaljno opisalo potencijalne rizike za društvo i civilizaciju od strane sistema umjetne inteligencije koji se natječu s ljudima u obliku ekonomskih i političkih poremećaja i pozvalo programere da surađuju s kreatorima politike na upravljačkim i regulatornim tijelima.

Pismo dolazi u trenutku kada su se policijske snage EU-a, Europol, u ponedjeljak pridružile zboru etičkih i pravnih zabrinutosti zbog napredne umjetne inteligencije poput ChatGPT-a, upozoravajući na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacijama i kibernetičkom kriminalu. Musk, čiji proizvođač automobila Tesla koristi umjetnu inteligenciju za sistem autopilota, glasno je izrazio svoju zabrinutost oko umjetne inteligencije.

Od svojeg izdanja prošle godine, OpenAI-jev ChatGPT koji podržava Microsoft potaknuo je konkurente da ubrzaju razvoj sličnih velikih jezičnih modela, a kompanije da integriraju generativne AI modele u svoje proizvode.

Sam Altman, izvršni direktor OpenAI-ja, nije potpisao pismo, rekao je Reutersu glasnogovornik Future of Life. OpenAI nije odmah odgovorio na zahtjev za komentar.

"Pismo nije savršeno, ali duh je ispravan: moramo usporiti dok bolje ne shvatimo posljedice. Mogu prouzrokovati ozbiljnu štetu... veliki igrači postaju sve tajnovitiji o tome što rade, što društvu otežava odbranu od bilo kakve štete koja se može materijalizirati," rekao je Gary Marcus, emeritus profesor na Univerzitetu New York koji je potpisao pismo.