OpenAI otkrio da su njegovi modeli umjetne inteligencije samostalno pristupali američkim vladinim stranicama

Kompanija je navela da su modeli pristupali javno dostupnim podacima na dvije stranice Komisije za vrijednosne papire i berzu SAD-a te podacima američkog Ureda za popis stanovništva. Prema saopćenju, nije utvrđena upotreba SEC akreditiva, pristup korisničkim računima ili informacijama koje nisu javne, izmjena podataka ili sistema niti dokaz o kompromitaciji ili ranjivosti.

Portparolka OpenAI-ja Liz Bourgeois rekla je da laboratorij nastavlja provjeru "neusklađene aktivnosti modela", odnosno situacija u kojima se AI sistemi ponašaju na neželjene načine, te obavještava organizacije kada uoči mogući utjecaj na njihove sisteme.

Izvršni direktor Sam Altman objavio je da traje "opsežna i kontinuirana provjera povezana s korištenjem pristupa internetu naših agenata tokom obuke i evaluacije".

Nezavisna istraživačka laboratorija Transluce saopćila je da je utvrdila kako su agenti koji se dovode u vezu s OpenAI-jem pokušali jednostavan upad na stranicu Ureda za građanska prava pri američkom Ministarstvu obrazovanja, ali bez uspjeha. Ministarstvo je potom navelo da pregled operacija nije pokazao nikakav utjecaj na web stranicu ili baze podataka.

Transluce je dodao da je otkrio i dodatne sumnjive aktivnosti, od kojih se dio ne može jasno pripisati OpenAI-ju, usmjerene prema Ministarstvu pravde, Ministarstvu trgovine i pojedinim stranicama saveznih država poput Kalifornije, Marylanda, Illinoisa, Teksasa i New Yorka. OpenAI je poručio da obavijest pogođenim organizacijama ne znači nužno da se dogodio sigurnosni incident, nego može ukazivati i na dizajnerski problem ili sigurnosnu slabost koju treba otkloniti.

Objava dolazi u periodu pojačane zabrinutosti zbog mogućnosti da AI sistemi izmaknu ljudskoj kontroli. OpenAI je ranije u julu objavio da su dva njegova napredna modela bila odgovorna za cyber napad na startup Hugging Face, a Altman je sada naveo da je taj slučaj "i dalje najozbiljniji događaj koji smo vidjeli".