Nezgodno iznenađenje za Saudijce: Huti za pravljenje i navođenje balističkih raketa koristili umjetnu inteligenciju

Anthropic je naveo da je u sjevernom Jemenu otkrio ćeliju aktera prijetnje koja je vodila tri programa razvoja oružja. Kompanija nije imenovala Hute, ali je opis odgovarao području koje uglavnom kontrolišu pobunjenici koje podržava Iran.

Prema izvještaju, akteri su pokušali razviti višestepeni balistički projektil, projektil s više varijanti i navođenu raketu koja koristi "letni računar klase običnog telefona". Anthropic je naveo: "Akteri su koristili Claude Code umjesto ljudskih softverskih inženjera za razvoj softvera za navođenje, navigaciju i upravljanje koji usmjerava i stabilizira letjelicu."

Kompanija je saopćila da su njene zaštitne mjere blokirale mnoge zahtjeve, ali ne sve. Navodi se da su korisnici pokušavali zaobići ograničenja tako što su skrivali krajnju namjenu softvera i posao dijelili kroz više sesija kako pojedinačni razgovori ne bi otkrili puni cilj.

Anthropic tvrdi da nema dokaza da su akteri uspjeli napraviti operativno oružje, ali da su testirali navođenu raketu. U izvještaju se dodaje: "Nemamo dokaze da su akteri uspjeli staviti u upotrebu operativni uređaj; ali jesu testno ispalili navođenu raketu". Nakon, kako se navodi, neuspjelog testa, vratili su se modelu Claude kako bi utvrdili razlog neuspjeha.

Slučaj je otvorio nova pitanja o granicama zaštite naprednih AI sistema, posebno jer je isti izvještaj ukazao i na pokušaje naučnika da Claude koriste za istraživanje biološkog oružja.

Anthropic je saopćio da je ugasio povezane račune i podijelio informacije s partnerima iz javnog i privatnog sektora, ali i upozorio da su akteri već imali vlastiti offline simulacijski alat koji ne zavisi od Claudea niti drugih inženjerskih okruženja.