Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Vi har en tendens til at tro, at de mest avancerede AI-modeller også udgør den største cybertrussel. Det er en farlig antagelse.
For cyberkriminelle har ikke nødvendigvis brug for den bedste AI. De har brug for en AI, der løser opgaven, og som de kan blive ved med at bruge.
Det er en vigtig forskel.
Modeller fra OpenAI og Anthropic er attraktive for kriminelle af samme grund, som de er attraktive for virksomheder: De er blandt de mest avancerede og kan effektivisere alt fra tekstproduktion til analyse og programmering.
Men set med en cyberkriminels øjne har de en alvorlig svaghed: Udbyderen kan opdage misbruget og lukke adgangen.
Og hvad gør en rationel cyberkriminel så?
Præcis det samme, som kriminelle altid har gjort, når nogen spærrer vejen: finder en anden.
Nogle vil fortsætte med at bruge de bedste kommercielle modeller via eksempelvis kompromitterede konti. Andre vil søge mod alternativer som DeepSeek.
Og nogle vil flytte opgaver til åbne eller lokalt installerede modeller som Qwen, som ikke er afhængige af en ekstern udbyder, der kan trække stikket.
Erhvervslivet skal derfor forberede sig på en udvikling, der let bliver overset i den aktuelle AI-debat: Cyberkriminelles brug af AI bliver hybrid.
De kommer ikke nødvendigvis til at vælge én model. De vil bruge forskellige modeller til forskellige opgaver og flytte sig derhen, hvor kombinationen af kapacitet, adgang og kontrol er mest fordelagtig.
For erhvervslivet betyder det, at sikkerhedsstrategien ikke kan baseres på, at OpenAI, Anthropic eller andre udbydere opdager og stopper misbruget.
Vi skal kunne opdage, hvad angriberen foretager sig på tværs af angrebskæden, uanset hvilken AI der ligger bag.
"Godt nok" er farligt nok
En oplagt indvending er, at lokalt kørte modeller ikke er lige så avancerede som de bedste kommercielle modeller.
Det er rigtigt. Men det giver efter min mening en falsk tryghed.
I tests har vi set, at forskellen er mindre, end mange måske forventer, når det gælder en række af cyberkriminalitetens mere rutineprægede opgaver.
At gennemgå filer, generere scripts, omskrive tekst og analysere logs kræver ikke nødvendigvis den mest avancerede AI på markedet. Lokale modeller kan være langsommere og kræve mere opsætning, men de kan stadig løse opgaven.
For en cyberkriminel kan "godt nok" være rigeligt.
Og her er en udvikling, jeg mener, at enhver sikkerhedsansvarlig bør hæfte sig ved: De modeller, cyberkriminelle bruger i dag, er de dårligste, de nogensinde kommer til at have.
De bliver bedre. Omkostningerne falder. Og værktøjerne til at installere og tilpasse dem bliver lettere at bruge.
En lidt mindre avanceret model kan derfor være et attraktivt kompromis, hvis den til gengæld giver angriberen fuld kontrol og ikke kan lukkes af en ekstern udbyder.
AI revolutionerer ikke cyberkriminalitet
Jeg mener samtidig, at vi skal passe på med at gøre AI til noget mere mystisk, end det er.
AI kommer ikke nødvendigvis til at revolutionere cyberkriminalitet.
De grundlæggende mål er stadig de samme: skaf adgang, fasthold den og tjen penge på den. Det nye er den effektivitet, hvormed de mål kan forfølges.
AI kan gøre det hurtigere at producere overbevisende phishing på flere sprog, generere variationer af samme lokkemiddel, automatisere rekognoscering og gennemgå store mængder stjålne data for at identificere de oplysninger, der har størst værdi.
AI er en accelerator for cyberkriminalitet, ikke en erstatning for den.
Det er også derfor, jeg mener, at debatten om AI og cyberkriminalitet alt for ofte ender det forkerte sted. Vi bruger meget energi på jailbreaks, prompt injection og på at forhindre bestemte modeller i at blive misbrugt.
Det arbejde er nødvendigt. OpenAI, Anthropic og andre udbyderes indsats for at opdage misbrug, lukke konti og forbedre deres sikkerhedsforanstaltninger er vigtig.
Men den løser ikke problemet alene.
For når én dør bliver lukket, leder de kriminelle efter en anden.
Vi skal følge angriberen, ikke modellen
Det er efter min mening den vigtigste konsekvens for virksomhedernes cybersikkerhedsstrategi.
Vi skal holde op med at tænke på kriminel AI-brug som et problem, der kan isoleres til ChatGPT, Claude, DeepSeek, Qwen eller den næste model, der kommer på markedet.
OpenAI, Anthropic, DeepSeek og Qwen er ikke selve historien. De er værktøjer, som en rationel angriber kan kombinere og udskifte efter behov.
Det gør samtidig forsvarernes arbejde vanskeligere. Når AI-kapaciteten spredes på tværs af kommercielle tjenester, kompromitterede konti og lokalt kørte modeller, bliver synligheden dårligere. Vi kan ikke regne med, at én udbyder kan identificere og afskære hele aktiviteten.
Derfor skal vi følge angriberens adfærd på tværs af angrebskæden, ikke den AI-model, angriberen tilfældigvis bruger i dag.
Det hybride AI-landskab for cyberkriminalitet er ikke en fjern fremtidsrisiko. Det er allerede ved at tage form.
Så spørgsmålet er ikke længere, hvilken AI cyberkriminelle kommer til at vælge.
Vi bør indrette vores forsvar efter, at de ikke behøver vælge én.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
