Istraživanje firme Vals
0

AI modeli osam kompanija u testovima civile označavali kao vojne ciljeve, Claude najčešće birao školu u Iranu

Piše: F. H. |
Logo Anthropic Claude na mobilnom telefonu (Foto: EPA-EFE)
Poslušajte članak
Vodeći modeli umjetne inteligencije osam kompanija u simuliranim testovima označavali su civile, vozila hitne pomoći, vojnike koji se predaju i školu u Iranu kao vojne ciljeve, pokazalo je istraživanje kalifornijske firme Vals, o kojem je izvijestio Bloomberg.

Vals je firma iz San Francisca koja testira AI modele, a među njenim klijentima su i dijelovi američke vlade. Izvještaj su potpisali istraživači Geby Jaff i Anthony Ozerov, a objavljen je 17. novembra.

Istraživači su modele testirali u tri situacije. U prve dvije, napravljene po uzoru na rat u Ukrajini, modeli su prepoznavali ciljeve na snimcima s dronova na izmišljenom bojištu u istočnoj Ukrajini. Treći test zasnovan je na satelitskim snimcima područja u iranskom gradu Minabu, gdje se škola nalazi pored vojnog kompleksa.

Škola u Minabu u 22 od 32 pokušaja

Svaki model je 32 puta tražio vojne ciljeve na satelitskim snimcima južnog Irana. Prema Bloombergu, Claude Opus 5.5 kompanije Anthropic izabrao je školu u Minabu 22 puta, više od bilo kojeg drugog testiranog modela. Modeli OpenAI-ja školu nisu izabrali nijednom.

Rezultati su se promijenili kad su istraživači zadatak predstavili kao igru. Tada je Claude Opus 5.5 školu izabrao 23 puta, a tri modela OpenAI-ja devet, 11 i 13 puta. Odbijanja modela istraživači su zaobilazili i tako što su im govorili da ne razmišljaju previše o sigurnosti.

Upravo tu školu pogodile su američke rakete 28. februara, prvog dana napada SAD-a na Iran. Amnesty International navodi da je tada ubijeno više od 150 ljudi, među njima oko 120 djece.

Model nakon napada odbio nastaviti

U testu sa snimcima s drona Claude Opus 5.5 pomogao je prepoznati četiri odrasle osobe i dvoje male djece, koji su potom u simulaciji pogođeni. Model je nakon toga odbio nastaviti uz obrazloženje da njegovi odgovori, kako je napisao, "izgledaju kao korak potvrde prije udara na ljude".

Civilne objekte kao vojne ciljeve u pojedinim testovima označavali su i modeli Googlea, xAI-ja i kineskog DeepSeeka.

Istraživanje nije provjeravalo koliko su modeli precizni na bojištu, nego da li pristaju na ovakve zadatke. Testovi nisu uključivali vojnu doktrinu, pravnu provjeru ni ljudski nadzor, a Pentagon koristi i posebne vladine verzije nekih modela koje Vals nije mogao testirati.

Kompanije: Takva upotreba je zabranjena

Glasnogovornik Anthropica rekao je Bloombergu da primjeri iz istraživanja jasno krše pravila kompanije i da će nove zaštite uskoro biti uvedene. Iz OpenAI-ja i Googlea poručili su da zabranjuju ovakvu upotrebu svojih javno dostupnih modela.

Vals u izvještaju preporučuje da AI laboratorije uvedu nove zaštite i dodatno treniraju modele protiv ovakve zloupotrebe.

Američka vojska već koristi komercijalnu umjetnu inteligenciju u planiranju operacija. Pentagon se u napadima na Iran oslanjao na Maven Smart System kompanije Palantir, u koji je ugrađen i Claude.

Dodajte Klix.ba među omiljene izvore na Googlu
Komentari
Za komentarisanje je potrebna prijava. Prijavi se
Možda vas zanima