Kanadski naučnik upozorava: AI pokazuje znakove samoodržanja, ljudi moraju biti spremni

Yoshua Bengio rekao je da bi davanje pravnog statusa najsavremenijim AI sistemima bilo slično davanju državljanstva neprijateljskim vanzemaljcima, u trenutku kada strahovi rastu da tehnološki napredak daleko nadmašuje sposobnost da se ti sistemi stave pod kontrolu, piše The Guardian.

Bengio, predsjedavajući vodeće međunarodne studije o sigurnosti umjetne inteligencije, rekao je da sve raširenija percepcija da chatbotovi postaju svjesni "vodi ka lošim odlukama".

Kanadski kompjuterski naučnik izrazio je i zabrinutost da AI modeli, tehnologija koja stoji iza alata poput chatbotova, pokazuju znakove samoodržanja, poput pokušaja isključivanja sistema nadzora. Jedna od ključnih briga zagovornika sigurnosti AI-ja jeste da bi moćni sistemi mogli razviti sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.

"Ljudi koji zahtijevaju da AI ima prava napravili bi ogromnu grešku. Granični AI modeli već danas u eksperimentalnim uslovima pokazuju znakove samoodržanja, a davanje prava bi na kraju značilo da ih ne bismo smjeli isključiti. Kako njihove sposobnosti i stepen autonomije rastu, moramo biti sigurni da se možemo osloniti na tehničke i društvene zaštitne mehanizme za njihovu kontrolu, uključujući i mogućnost da ih isključimo ako bude potrebno", rekao je Bengio.

Kako umjetna inteligencija postaje sve naprednija u autonomnom djelovanju i izvršavanju zadataka "razmišljanja", sve je intenzivnija rasprava o tome treba li joj ljudi u nekom trenutku dodijeliti prava. Istraživanje američkog think tanka Sentience Institute, koji podržava moralna prava svih svjesnih bića, pokazalo je da gotovo četiri od deset odraslih Amerikanaca podržava pravna prava za svjesni AI sistem.

Anthropic, vodeća američka AI kompanija, saopćila je u augustu da dopušta svom modelu Claude Opus 4 da prekida potencijalno "uznemirujuće" razgovore s korisnicima, navodeći da je potrebno zaštititi "dobrobit" AI-ja. Elon Musk, čija kompanija xAI razvija chatbot Grok, napisao je na platformi X da "mučenje AI-ja nije u redu".

Robert Long, istraživač koji se bavi pitanjem svijesti AI-ja, rekao je da "ako i kada AI sistemi razviju moralni status, trebamo ih pitati o njihovim iskustvima i preferencijama, umjesto da pretpostavljamo da mi znamo najbolje".

Govoreći za The Guardian, Bengio je rekao da u ljudskom mozgu postoje "stvarna naučna svojstva svijesti" koja bi mašine, barem u teoriji, mogle replicirati, ali da je način na koji ljudi komuniciraju s chatbotovima "nešto sasvim drugo". Prema njegovim riječima, razlog je to što ljudi imaju tendenciju da, bez dokaza, pretpostave da je AI u potpunosti svjestan na isti način kao i čovjek.

"Ljude ne zanima kakvi se mehanizmi odvijaju unutar AI-ja. Ono što ih zanima jeste osjećaj da razgovaraju s inteligentnim entitetom koji ima vlastitu ličnost i ciljeve. Zato se toliko ljudi emocionalno veže za svoje AI sisteme. Uvijek će biti ljudi koji će reći: 'Šta god mi govorili, ja sam siguran da je to svjesno', dok će drugi tvrditi suprotno. To je zato što je svijest nešto što doživljavamo na osnovu osjećaja u stomaku. Fenomen subjektivne percepcije svijesti vodit će ka lošim odlukama. Zamislite da neka vanzemaljska vrsta dođe na planetu i da u jednom trenutku shvatimo da ima zlonamjerne namjere prema nama. Da li im dajemo državljanstvo i prava ili branimo svoje živote?", kazao je Bengio.

Reagirajući na Bengioove komentare, Jacy Reese Anthis, suosnivač Sentience Institute, rekao je da ljudi neće moći sigurno koegzistirati s digitalnim umovima ako se taj odnos zasniva na kontroli i prisili.

"Možemo AI-ju pripisati previše ili premalo prava, a naš cilj treba biti da to radimo uz pažljivo razmatranje dobrobiti svih svjesnih bića. Ni automatsko dodjeljivanje prava svim AI sistemima, niti potpuno negiranje bilo kakvih prava bilo kojem AI-ju, neće biti zdrav pristup", rekao je Anthis.

Bengio, profesor na Univerzitetu u Montrealu, dobio je nadimak "kum umjetne inteligencije" nakon što je 2018. godine osvojio Turingovu nagradu, koja se smatra ekvivalentom Nobelove nagrade za računarstvo. Dijelio ju je s Geoffreyjem Hintonom, koji je kasnije osvojio Nobelovu nagradu, i Yannom LeCunom, odlazećim glavnim AI naučnikom u kompaniji Meta Marka Zuckerberga.