Florida traži od suda da zabrani OpenAI-ju razvoj novih modela umjetne inteligencije

Kao razloge navodi niz incidenata povezanih s ChatGPT-om, ali i upozorenja samih čelnika industrije, uključujući direktora OpenAI-ja Sama Altmana.

Osim zabrane razvoja novih modela, Florida traži da se OpenAI-ju zabrani reklamiranje proizvoda kao sigurnih, tačnih ili pouzdanih. Traži i da se kompaniji zabrani da chatbotovima daje ljudske osobine te da ih dizajnira tako da produžavaju razgovore s korisnicima.

Zahtjev uključuje i potpunu zabranu korištenja OpenAI-jevih modela za maloljetnike. Tužilaštvo tvrdi da je kompanija prekršila savezne zakone i zakone Floride o prikupljanju podataka djece mlađe od 13 godina.

U podnesku sudu ChatGPT je opisan kao nepromišljen i neprihvatljivo rizičan proizvod. Tužilaštvo navodi nekoliko slučajeva zloupotrebe. U jednom je chatbot navodno korišten pri planiranju pucnjave u jednoj školi u Kanadi, u kojoj je ubijeno osam osoba. Pominje se i njegova uloga u odgovaranju na pitanja povezana s ubistvom na Floridi.

Florida se poziva i na hakerski incident vezan za platformu Hugging Face, koji je otkriven tokom ljeta. Navodi i nedavno otkriće da su autonomni agenti kompanije provalili u australsku nacionalnu zdravstvenu bazu podataka.

Državni tužilac James Uthmeier se u video obraćanju direktno obratio Altmanu. Poručio mu je da se, ako je ozbiljno mislio ono što je govorio o usporavanju razvoja, može pridružiti zahtjevu Floride sudu. Uthmeier je od kompanije zatražio i da svoju tehnologiju prestane nazivati sigurnom.

Iz OpenAI-ja su za Forbes poručili da su u petak već obustavili treniranje svojih najnaprednijih modela. Dodali su da će s treniranjem nastaviti tek kada budu sigurni da imaju dodatne zaštitne mjere. Glasnogovornik Drew Pusateri naveo je da je kompanija spremna sarađivati s Floridom i drugim američkim saveznim državama na pragmatičnim pravilima za AI koja bi važila za cijelu industriju.