Steve Wozniak, princ Harry i 800 drugih žele zabranu "superinteligencije"
"Pozivamo na zabranu razvoja superinteligencije, koja se ne smije ukinuti prije nego što budemo imali široki naučni konsenzus da će se to raditi sigurno i kontrolisano, kao i snažnu podršku javnosti", piše u izjavi.
Potpisnici uključuju širok spektar ljudi iz različitih sektora i političkog spektra, uključujući istraživača umjetne inteligencije i dobitnika Nobelove nagrade Geoffreyja Hintona, Stevea Bannona, bivšeg pomoćnika američkog predsjednika Donalda Trumpa, bivšeg predsjedavajućeg Združenog komiteta načelnika štaba Mikea Mullena i repera Will.i.ama. Izjava dolazi iz Instituta za budućnost života, koji je naveo da se razvoj umjetne inteligencije odvija brže nego što javnost može shvatiti.
"Na nekom nivou, ovaj put su nam odabrale kompanije i osnivači koji se bave umjetnom inteligencijom, kao i ekonomski sistem koji ih pokreće, ali niko zapravo nije nikoga drugog pitao da li je ovo zapravo ono što želimo", rekao je za NBC News izvršni direktor instituta Anthony Aguirre.
Opća umjetna inteligencija (AGI) odnosi se na sposobnost mašina da razmišljaju i obavljaju zadatke jednako dobro kao i ljudi, dok bi superinteligencija omogućila umjetnoj inteligenciji da radi stvari bolje čak i od ljudskih stručnjaka. Kritičari i kultura općenito, navode tu potencijalnu sposobnost kao ozbiljan rizik za čovječanstvo. Međutim, dosad se umjetna inteligencija pokazala korisnom samo za uski raspon zadataka i dosljedno ne uspijeva da se nosi sa složenim zadacima poput autonomne vožnje.
Uprkos nedostatku nedavnih otkrića, kompanije poput OpenAI-a ulažu milijarde u nove modele umjetne inteligencije i podatkovne centre potrebne za njihovo pokretanje. Izvršni direktor Mete Mark Zuckerberg nedavno je izjavio da je superinteligencija "na vidiku", dok je izvršni direktor X-a Elon Musk rekao da se superinteligencija "dešava u stvarnom vremenu". Musk je također ranije upozorio na potencijalne opasnosti umjetne inteligencije.
Izvršni direktor OpenAI-a Sam Altman je kazao da očekuje da će se superinteligencija dogoditi najkasnije do 2030. godine. Nijedan od tih lidera, niti iko značajan iz njihovih kompanija, nije potpisao izjavu.
Ovo nije jedini poziv na usporavanje razvoja umjetne inteligencije. Prošlog mjeseca je više od 200 istraživača i javnih službenika, uključujući 10 dobitnika Nobelove nagrade i više stručnjaka za umjetnu inteligenciju, objavilo hitan poziv za "crvenu liniju" protiv rizika umjetne inteligencije. Međutim, to pismo se nije odnosilo na superinteligenciju, već na opasnosti koje se već počinju materijalizovati, poput masovne nezaposlenosti, klimatskih promjena i kršenja ljudskih prava. Drugi kritičari upozoravaju na potencijalni balon umjetne inteligencije koji bi na kraju mogao pući i povući ekonomiju sa sobom.
