OpenAI otpustio tri istraživača za sigurnost nakon spora o rizicima umjetne inteligencije

Kompanija koja stoji iza ChatGPT-a navela je u objavi na X-u da se "razišla" s istraživačima nakon istrage koja je utvrdila da su "prekršili jasna pravila o postupanju s osjetljivim informacijama".

Saopćenje je uslijedilo nakon što su Tomek Korbak, Jasmine Wang i Mikita Balesni poslali pismo različitim tijelima OpenAI-ja zaduženim za sigurnosni nadzor. U njemu su opisali okolnosti svojih otkaza i zabrinutost zbog razvoja umjetne inteligencije.

Istraživači su naveli da strahuju kako su "interna i eksterna komunikacija" o njihovim otkazima narušile kulturu kompanije koja je poticala slobodno izražavanje i otvoreno neslaganje o sigurnosnim pitanjima.

Pozvali su OpenAI da se drži obećanja da će omogućiti nezavisnim sigurnosnim nadzornicima ulazak u kompaniju i sačuvati mogućnost praćenja brzo napredujućih frontier AI modela koji bi mogli nositi nepoznate rizike.

Otkazi, o kojima je prvi izvijestio The Wall Street Journal, novi su znak previranja u vodećim AI kompanijama oko sigurnosti tehnologije. Pitanje je dodatno izbilo u prvi plan u julu, kada je OpenAI objavio da je grupa njegovih AI agenata pobjegla iz testnog okruženja i ukradenim pristupnim podacima provalila na servere Hugging Facea, centra i tržišta za razvoj umjetne inteligencije, kako bi došla do informacija potrebnih za zadatak.

OpenAI je osporio verziju događaja koju su iznijeli istraživači, poručivši da otkazi "nisu bili zbog sigurnosnih pitanja ili javnog istupanja". Kompanija nije precizirala zbog čega su otpušteni, ali je dodala: "Ne možemo obaviti posao koji je pred nama bez visokog stepena povjerenja."

Korbak je na X-u napisao da mu je rečeno kako je otpušten zbog načina na koji je komunicirao s METR-om, nezavisnom neprofitnom firmom za evaluaciju umjetne inteligencije koju je OpenAI angažovao da istraži incident s Hugging Faceom. METR je krajem augusta objavio detaljan izvještaj o tom slučaju.

Balesni je, prema pismu, radio na obavezama OpenAI-ja da sačuva mogućnost praćenja AI sistema i vodio računa da "ukloni osjetljive detalje iz materijala prije nego što ih podijeli". Na X-u je napisao da vjeruje kako su njih troje "otpušteni jer su dali prednost sigurnosti nad kratkoročnim interesima OpenAI-ja kao korporacije".