AI-agenter kræver klare sikkerhedsregler
Sikkerheds- og AI-eksperterne Kåre Kjelstrøm og Christian Bech Nørhave er gået på scenen for at tale om AI-agenter og sikkerhed. For spørgsmålet er ikke længere, om angriberne kommer ind, men hvornår. Og hvad gør man så?
De to eksperter viser forskellige scenarier for, hvordan virksomheder kan bruge AI-agenter uden at gøre dem til en sikkerhedsrisiko. Det kræver klare regler for, hvad agenten må gøre. Især når angrebene i stigende grad også kommer fra AI, hvor det er vigtigt at handle hurtigt.
Christian Bech Nørhave mener, at AI-agenter gerne må kunne reagere selv, hvis deres handlinger kan rulles tilbage. Det kræver dog en playbook.
Eksperterne kommer med flere gode råd. Blandt andet at reglerne skal bygges ind i selve koden og ikke kun i instruktioner. Men måske vigtigst af alt, skal virksomhederne logge alt, hvad agenterne foretager sig, og sørge for, at et menneske holder øje med handlingerne.
At øve sig til den dag et angreb sker er ikke noget nyt budskab. Men det er vigtigere end nogensinde, lyder det.