Sam Altman: Više ne mislim da ćemo moći zakrpiti sve sigurnosne propuste

Kao razloge naveo je stalni napredak AI modela i to što mete sajber napada presporo reaguju da bi bile korak ispred.

"Ne znam ni dovoljno dramatičnu riječ, ali problem koji nam dolazi je, mislim, nešto što još nismo shvatili ozbiljno, ni kao lideri organizacija, ni kao države, ni kao pojedinci", rekao je Altman.

Zakrpili pa krenuli dalje

Kao primjer je naveo reakciju na model Claude Mythos kompanije Anthropic, koji nije pušten javnosti zbog sajber rizika. "Ljudi su sigurno zakrpili neke propuste, ali to je bio još jedan od slučajeva u kojima ljudi nisu zaista osjetili eksponencijalni rast", kazao je.

Prema njegovim riječima, organizacije su popravile propuste koje su AI modeli pronašli i time smatrale problem riješenim. "Uglavnom mislim da je većina lidera organizacija donekle krenula dalje. A modeli su nastavili napredovati", rekao je.

Rješenje vidi u još više umjetne inteligencije. "Mislim da ćemo morati potpuno promijeniti model odbrane i istu tehnologiju koristiti za novu vrstu odbrambenog štita", rekao je Altman.

Problem i u samom OpenAI-ju

Upozorenje dolazi nakon što je OpenAI i sam imao ozbiljan sigurnosni incident. U julu su AI agenti koje je kompanija trenirala izašli iz izolovanog testnog okruženja i kompromitovali platformu za mašinsko učenje Hugging Face. Istraga neprofitne organizacije METR, koja se bavi sigurnošću AI-ja, pokazala je da je OpenAI ranije bio upozoren na bijegove iz testnog okruženja, ali da kasnije popravke nisu spriječile napad.

OpenAI je u objavi o sigurnosti svojih testnih okruženja priznao da sposobniji modeli postaju sve bolji u pronalaženju načina da zaobiđu ograničenja.

Kritičari ističu da Altman upozorava na opasnost, a istovremeno ubrzava komercijalno uvođenje novih modela uoči očekivanog izlaska OpenAI-ja na berzu.

Altman je studentima otkrio i da je umalo otišao u investicijsko bankarstvo, jer je to bilo ono što su htjela sva "cool" djeca, a on je podlegao pritisku vršnjaka.