Komentar
ovo je istina i dozivio sam ovo vise puta, ako radite agentic i postavite cilj agentu, mimo svih ograncenja - determinsitickih llm ce naci nacin uz dovoljno iteracija i vremena da izadje npr stavite ga u izoliran container, naci ce exploit da probije iz njega. Ako LLM-u zesto zabranite tipa pristup, napisati ce aplikaciju koja ce pristupiti tome - isto kao covjek i zakon radi u okviru onog sto je dozvoljeno ali koristi i sivu zonu
sad ovo je mozda malo pretjerano jer ovo su modeli kojima normalni ljudi nemaju pristup - preskupi i obicno im skinu zastite koji su aktivni kod normalnih korisnika. pouka je da je svaku novu generaciju LLM-a teze kontrolisati i to je istina. Radi kolicine znanja i dubine rezonovanja zato i pozivaju da se uspori, modele koji su nama dostupni je lakse kontrolisati.
Prikaži sve komentare (53)