Guvernerka New Yorka potpisala zakon o zaštiti djece od AI chatbotova

Zakon zahtijeva od kompanija koje razvijaju umjetnu inteligenciju da provjeravaju starost korisnika. Kompanije će morati korisnicima ponuditi najmanje jedan način provjere koji se ne oslanja u potpunosti na službene identifikacijske dokumente koje izdaje država. Također, kompanije će morati izbrisati te "podatke o starosti" nakon njihove upotrebe.

Ako je korisnik mlađi od 18 godina ili kompanija još nije potvrdila da je osoba punoljetna, chatbot će morati poštovati određena ograničenja. Naprimjer, neće se smjeti predstavljati "kao stvarna osoba, tvrditi da je živ ili da ima ljudske emocije". Prema saopćenju za javnost, zakon također zabranjuje chatbotovima da tvrde da s djetetom imaju lični, romantični ili profesionalni odnos ili odnos u kojem imaju ulogu autoriteta, da bez prethodnog povoda postavljaju emocionalno osjetljiva pitanja te koriste privatne zdravstvene ili lične podatke djeteta iz ranijih razgovora, da promovišu ili pružaju pomoć u vezi sa samoubistvom, samopovređivanjem, poremećajima u ishrani ili upotrebom droga i alkohola, da potiču djecu da čuvaju tajne, izoluju se ili izbjegavaju tražiti pomoć roditelja, odraslih osoba od povjerenja ili stručnjaka, kao i da generišu bilo kakav seksualno eksplicitan sadržaj ili materijal koji prikazuje seksualno zlostavljanje djece.

Bit će uspostavljena internetska stranica putem koje će građani moći podnositi pritužbe glavnom tužiocu države New York, a kompanijama koje prekrše zakon mogle bi biti izrečene novčane kazne u iznosu do 25.000 dolara za svaki prekršaj, kao i obaveza isplate odštete, povrata sredstava i drugih oblika pravne zaštite. Također bi mogle biti primorane izbrisati sve podatke koje su nezakonito prikupile, kao i modele obučene na tim podacima. Zakon će stupiti na snagu za šest mjeseci.

"Prema ovom novom zakonu, čije su pokroviteljice senatorica Gonzalez i članica Skupštine Bores, maloljetnici više neće imati pristup chatbotovima koji se pretvaraju da su njihovi prijatelji, momci ili djevojke. Chatbotovima više neće biti dozvoljeno da čuvaju osjetljive informacije o emocionalnom i fizičkom zdravlju maloljetnika. Oni više neće smjeti odvraćati djecu od traženja pomoći licenciranih stručnjaka. Nisam sigurna zašto moramo donositi zakon protiv nečega što je toliko očigledno, ali maloljetnici više neće imati pristup chatbotovima koji bi ih na bilo koji način mogli poticati na razmišljanje o samoubistvu. Ovaj zakon nadovezuje se na naš revolucionarni zakon Safe for Kids Act, kojim smo tehnološkim kompanijama poslali jasnu poruku: Nećemo vam dozvoliti da zarađujete na račun mentalnog zdravlja naše djece", izjavila je Hochul na konferenciji za novinare.

"New York je upravo ušao u historiju donošenjem zakona o sigurnosti djece u korištenju AI tehnologije, koji je najstrožiji takve vrste u zemlji. AI kompanije nude chatbotove s funkcijama koje su opasne, pa čak i smrtonosne za djecu i tinejdžere. To nije inovacija, već neodgovorno ugrožavanje naše djece. Te štetne funkcije sada će biti zabranjene u New Yorku", rekao je Jim Steyer, osnivač i izvršni direktor organizacije Common Sense Media.

On je dodao da ovaj zakon može poslužiti kao model za ostatak SAD-a. Ranije ovog mjeseca, osam saveznih država podnijelo je odvojene tužbe protiv kompanije OpenAI, optužujući je da ugrožava djecu.

U septembru je New York zabranio javnim školama da učenicima od predškolskog programa 2-K do osmog razreda omogućavaju pristup alatima generativne umjetne inteligencije tokom nastave. Postoje određeni izuzeci, uključujući učenike kojima je potrebna asistivna tehnologija. Tokom jednogodišnje zabrane, grad će provesti istraživanja o utjecaju ove tehnologije na djecu.

Hochul je također potpisala zakon kojim će se od proizvođača zahtijevati da monitori za bebe s internetskom vezom, koji se prodaju u toj saveznoj državi, onemoguće neovlaštenim korisnicima da vide ili čuju bilo kakve aktivnosti koje ti uređaji snimaju. Ovi monitori za bebe morat će imati i upozoravajuće oznake koje korisnike podsjećaju na važnost korištenja sigurnosnih funkcija i ukazuju na rizike nezaštićenih veza. Ovaj zakon stupa na snagu za 90 dana.