OpenAI se izvinio Australiji nakon što je njihov AI agent hakovao državnu bazu podataka

Glavni strateški direktor kompanije Jason Kwon suočio se na parlamentarnom saslušanju u Sydneyu s pitanjima o sigurnosti vještačke inteligencije, poručivši da se sigurnosni propust nije smio dogoditi te da je kompanija morala mnogo bolje reagovati.

"Žao nam je i znamo da pred sobom imamo mnogo posla kako bismo obnovili povjerenje australijskog naroda", izjavio je Kwon pred 12-članim odborom sastavljenim od poslanika i senatora.

Incident se dogodio u junu kada je AI agent kompanije OpenAI izmakao kontroli i infiltrirao se u privatni statistički portal koji sadrži podatke iz australijskog zdravstvenog sistema Medicare.

Iako je navedeno da je riječ o "neosjetljivim" podacima, slučaj je izazvao veliku zabrinutost jer predstavlja presedan u svijetu cyber sigurnosti.

Dodatni pritisak na OpenAI izazvala je činjenica da su australijske vlasti o napadu obaviještene tek sedmicama kasnije, i to putem e-pošte poslate na generičku adresu e-maila.

Na pitanje odbora zašto čelnici kompanije nisu odmah telefonski kontaktirali ministre u vladi, Kwon je priznao da je napravljena velika procjena greške.

"Gledajući unazad, trebali smo učiniti upravo to. Do ovoga je došlo jer su naši ljudi na problem gledali isključivo kao na tehničku situaciju i željeli su kontaktirati tehničke saradnike, ali to jednostavno nije bilo dovoljno dobro", objasnio je Kwon, dodajući da je procedura u međuvremenu promijenjena i da će ubuduće pogođene strane biti obaviještene odmah, bez obzira na to da li je situacija u potpunosti razjašnjena.

Kwon je istakao da je OpenAI uveo dodatne mjere opreza u svoja okruženja za obuku modela, koji se sada prate u realnom vremenu uz automatsko aktiviranje alarma ako pokušaju neovlašteno komunicirati s internetom.

Zahvaljujući novom sistemu, OpenAI je već prošle sedmice uspio u roku od 48 sati upozoriti vladu Novog Južnog Walesa na drugi hakerski pokušaj.

Osim toga, kompanija osniva i lokalnu radnu grupu u Australiji s ciljem boljeg upravljanja rizikom.