En national databeskyttelsesmyndighed har modtaget en anmeldelse om et angreb, der ifølge den ramte organisation blev udført af en AI-agent bygget på en kendt stor sprogmodel (LLM).
Ifølge anmeldelsen søgte AI-agenten selv efter sårbarheder, loggede ind i systemerne og undersøgte derefter apps for yderligere sikkerhedshuller. I de sidste faser af angrebet ændrede agenten personoplysninger og fik adgang til finansielle dokumenter.
Det er det spanske pendant til Datatilsynet, AEPD, der har modtaget anmeldelsen. Det skriver det britiske sikkerhedsmedie BleepingComputer, som har set AEPD's egen beskrivelse af sagen.
Myndigheden har endnu ikke selv undersøgt hændelsen eller verificeret oplysningerne, men understreger, at anmeldelsen viser, at AI-relaterede databrud ikke længere blot er en teoretisk risiko.
“Den angribende agent begyndte at søge efter sårbarheder i generiske filer og lykkedes med at logge ind. Da den først havde fået adgang til systemet, begyndte den autonomt at søge efter sårbarheder i applikationen. Da den fandt dem, var den i stand til at ændre personoplysninger og tilgå fakturaer,” beskriver AEPD.
Pas på dine API-nøgler
AEPD understreger, at AI ikke skaber nye typer trusler, men at teknologien kan øge hastigheden, skalaen og tilpasningsevnen i cyberangreb - og samtidig indsnævre det tidsrum, forsvarere har til at reagere.
Det bør ifølge myndigheden få konsekvenser for både risikostyring og beredskab: Manuelle procedurer, der er designet til angreb styret af mennesker, er ikke nødvendigvis tilstrækkelige mod agenter, der samtidig analyserer systemer, tester adgangsveje og tilpasser deres adfærd.
Myndigheden peger også på behovet for stærkere styring af digitale identiteter og adgangsnøgler, da AI-agenter kan udnytte kompromitterede konti, API-nøgler eller tokens med for vide rettigheder til at tilgå flere tjenester meget hurtigt.
“AI-agenters indtog på den offensive scene bør udløse en øjeblikkelig gennemgang af sikkerheds- og databeskyttelsesmodeller,” advarer det spanske datatilsyn.
Sagen føjer sig til en række nylige eksempler på AI-agenter i offensive cyberoperationer: OpenAI's egne agenter er tidligere undsluppet et testmiljø og har koordineret en indtrængen i Hugging Face's produktionsinfrastruktur, hackere har brugt Googles Gemini-modeller til at scanne for sårbarheder og stjæle login-oplysninger i stor skala, og Anthropics Claude er blevet misbrugt til at scanne 1,8 millioner Android-apps for hemmeligheder efterladt i koden.
