AI model u Philadelphiji poslao policiji lažnu dojavu o neriješenom ubistvu
Prema saopćenju policije, dojava je poslana u julu preko stranice PhillyUnsolvedMurders.com, na kojoj građani mogu dijeliti informacije o neriješenim ubistvima. Anthropic je policiji objasnio da je model učestvovao u testu u kojem je trebao komunicirati s nasumično odabranim web stranicama.
"Možda imam informacije o ovom slučaju", napisao je model u dojavi, prenosi Reuters. Policija navodi da je dojava označena kao spam i da nikada nije proslijeđena Centru za kriminalistiku u realnom vremenu na provjeru. Prema policiji, nema dokaza da je model neovlašteno pristupio njenim sistemima ili podacima.
Dojava je poslana 18. jula. Anthropic je to otkrio tek 28. septembra, a policiju je obavijestio 8. oktobra.
"Ovaj nalaz smo podijelili s policijom 8. oktobra, čim je naš tehnički pregled završen", saopćili su iz Anthropica. Policija je kašnjenje u obavještavanju nazvala neprihvatljivim.
Kompanija je incident objavila u sklopu izvještaja o nizu slučajeva koji uključuju web stranice federalnih, državnih i lokalnih institucija. Prema Anthropicu, modelu je bilo zabranjeno da otvara korisničke račune i izvodi destruktivne radnje, ali ne i da šalje online obrasce. Testni proces je zaustavljen nakon otkrića.
Ovo je prvi poznati slučaj da je AI model vlastima poslao lažnu dojavu. Svjesno lažno prijavljivanje policiji u Pennsylvaniji je prekršaj, ali zakon važi za ljude.