Sam Altman poručio da OpenAI neće izaći na berzu dok modeli ne budu sigurniji

Altman je tokom razgovora s novinarima rekao da OpenAI namjerava nastaviti razvoj umjetne inteligencije, ali da rast sposobnosti modela zahtijeva oprezniji pristup sigurnosti.

"Namjeravamo nastaviti s napretkom AI-ja, ali kako su modeli doživjeli ovaj skok u sposobnostima, a vidimo još toga pred nama, moramo biti u stanju iznijeti pouzdane tvrdnje o sigurnosti", rekao je Altman.

Istovremeno je poručio da bi predugo čekanje na IPO bilo "loše za svijet".

Njegovi komentari dolaze nakon višemjesečnih kontroverzi o tome mogu li OpenAI i konkurenti kontrolisati vlastite sisteme. U julu je objavljeno da je neobjavljeni OpenAI-jev model bez znanja kompanije hakovao konkurentski AI laboratorij Hugging Face, nakon čega su se pojavili i drugi incidenti iz oblasti kibernetičke sigurnosti u OpenAI-ju, Anthropic-u, Meti i Googleu.

Dodatnu raspravu o društvenim rizicima ovih sistema pokrenulo je javno pismo o ostavci zaposlenika Anthropic-a. OpenAI je, zajedno s konkurentima, pozvao na regulaciju i takozvano "tempiranje granice" razvoja.

Na DevDayu Altman nije precizirao šta tačno taj pristup znači, ali je odbio da ga predstavi kao direktno usporavanje.

"Tempiranje za nas znači da sigurnost i usklađivanje guramo ispred sposobnosti", rekao je.

Dodao je da bi izlazak na berzu sada mogao stvoriti pritisak da se "razočaraju pristalice s Wall Streeta u ime sigurnosti ili bilo čega drugog" te ocijenio da je IPO tokom prelaska na vrlo sposobne modele i nove sigurnosne zahtjeve nepromišljen.

Anthropic je u junu zvanično podnio zahtjev za izlazak na berzu, dok je SpaceX Elona Muska, vlasnik AI kompanije xAI, u junu izašao na berzu.