Kunstig intelligens har stor betydning på it-sikkerhedsområdet: Kan hjælpe både angribere og forsvarere - men skal anvendes rigtigt

Klumme: Machine learning og andre teknologier inden for kunstig intelligens kan hjælpe såvel hackere som sikkerhedsfolk.

Artikel top billede

Denne klumme er et debatindlæg og er alene udtryk for skribenternes synspunkter.

Ansigtsgenkendelse. Selvkørende biler. Diagnosticering af patienters sygdomme.

Tre eksempler på områder, hvor kunstig intelligens indgår. Teknologien kan løse problemer på nye måder og åbne for nye muligheder. Men den medfører også sikkerhedsmæssige udfordringer.

Jeg mener, vi bør betragte kunstig intelligens og sikkerhed fra to vinkler: Angriberens og forsvarerens.

Angriberen kan være en it-kriminel, der er ude efter penge eller fortrolige oplysninger. For en angriber indebærer kunstig intelligens mindst tre muligheder.

For det første kan traditionelle typer af angreb forstærkes og forbedres med kunstig intelligens.

Et eksempel kan være målrettet svindel, såkaldt spearphishing. En angriber kan bruge machine learning til at analysere potentielle ofres opførsel.

Når et offer klikker på et link til en forfalsket login-side, bruger systemet den viden til at forbedre sin indsats:

Det bliver klogere på, hvad der skal til for at lokke folk i fælden. For det andet kan de kriminelle angribe kunstig intelligens-systemer hos deres ofre.

Det kan eksempelvis ske ved at forgifte de data, der indgår i modellerne til machine learning. Den type systemer lærer ved at blive præsenteret for store mængder data.

For eksempel kan et system lære at genkende et billede af et får ved at se en masse billeder af får.

Men hvis en angriber har held til at smide en bunke billeder af ulve ind i datasættet, bliver modellen forvirret, så den ikke længere kan genkende et får.

Den tredje mulighed for angribere går ud på at stjæle den værdi, som indgår i systemerne med kunstig intelligens. Det kan for eksempel være hele den model, som en virksomhed anvender til at vurdere værdipapirer med.

Dermed kan angriberen udnytte virksomhedens viden til at score kassen på børsspekulationer.

Analyse af trafikdata

Og nej, angreb med og på systemer med kunstig intelligens er ikke noget fundamentalt nyt sikkerhedsmæssigt.

Vores opgave som sikkerhedsfolk er fortsat at sikre informationernes tilgængelighed, fortrolighed og autenticitet.
Men der kan blive brug for nye værktøjer til at beskytte de nye typer systemer.

Et af de værktøjer kan være – kunstig intelligens.

I DKCERT undersøger vi således mulighederne i at bruge machine learning til at analysere netværksdata. Vi har adgang til metadata om den trafik, der går gennem de centrale routere i forskningsnettet.

Ved at hente de data ind i et paralleliseret big data-system kan vi analysere dem. Vores plan er at opbygge et system, der lærer at genkende trafikmønstre, som vi er interesserede i.

Machine learning kan gøre det muligt at se angrebsmønstre, som ellers kan være svære at opdage. Dermed vil vi hurtigere kunne opdage og standse angrebsforsøg.

Måske vil teknologien ligefrem kunne hjælpe os med at forudsige fremtiden: Ud fra data om tidligere angreb kan vi forudse kommende angreb.

Styrker password-sikkerhed

Machine learning kan også gøre autentifikation af brugere mere sikker. Traditionelt har vi stolet på kombinationen af et brugernavn og et password.

Men erfaringen viser, at den kombination ikke er stærk nok: Brugere genbruger passwords på tværs af tjenester eller vælger svage passwords, der er lette at gætte.

Her kan machine learning komme ind: Autentifikationssystemet nøjes ikke med at tjekke, om brugernavn og password passer sammen. Det ser også på, om login-proceduren ser rigtig ud:

Plejer brugeren at logge ind fra dette netværk med denne enhed på denne geografiske placering? Er der mange fejlslagne forsøg? Er klokken tre om natten – og er det normalt for brugeren?

Hvis systemet synes, noget virker tvivlsomt, kan det stille krav om ekstra sikkerhed, for eksempel via to-faktor-autentifikation.

Kig på teknologien

Hvis jeres organisation anvender kunstig intelligens-teknologier, bør I overveje, hvilke særlige krav det stiller til sikkerhedssystemerne.

Uanset om I bruger kunstig intelligens, kan jeg anbefale at tage teknologien med i overvejelserne, når I planlægger fremtidens sikkerhed.

Kunstig intelligens kan øge truslerne mod jeres informationer. Men den kan også forbedre sikkerheden, hvis den bruges rigtigt.

DKCERT (www.cert.dk) er et dansk Computer Security Incident Response Team, der håndterer sikkerhedshændelser på forskningsnettet. I samarbejde med tilsvarende organisationer over hele verden indsamler DKCERT information om internetsikkerhed. DKCERT er en organisation i DeiC (Danish e-Infrastructure Cooperation).

Henrik Larsen, der er chef for DKCERT og bestyrelsesmedlem i Rådet for Digital Sikkerhed, opdaterer en gang om måneden Computerworlds læsere med de seneste tendenser inden for informationssikkerhed.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os noget tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.

Annonce

Netcompany A/S

Data Management Consultant

Københavnsområdet

Politiets Efterretningstjeneste

GenAI-specialist i PET

Københavnsområdet

KMD A/S

Project Manager

Københavnsområdet

Navnenyt fra it-Danmark

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv, har pr. 28. oktober 2026 ansat Wanig Le Pennec som direktør. Han skal især beskæftige sig med udviklingen af den nordiske forretning med fokus på vækst og strategiske partnerskaber. Han er uddannet MBA fra IAE Paris – Sorbonne Business School og har en ingeniøruddannelse fra ENSEEIHT i Frankrig. Han har tidligere beskæftiget sig med globale partnerskaber og kommerciel udvikling inden for telekommunikation, software og IoT. Nyt job

Wanig Le Pennec

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv,

IFS Danmark A/S har pr. 1. november 2026 ansat Pernille Solvig Graux som Senior Director, Demand Generation. Pernille skal især beskæftige sig med Demand Generation i Europe North. Pernille kommer fra en stilling som Director, Commercial Excellence hos Kahoot. Pernille er uddannet Akademiøkonom. Pernille har tidligere beskæftiget sig med kommerciel ledelse med fokus på salg og marketing. Nyt job

Pernille Solvig Graux

IFS Danmark A/S

IFS Danmark A/S har pr. 1. september 2026 ansat Gustav Olsen som Business Development Representative. Gustav skal især beskæftige sig med forretningsudvikling & identificering af muligheder med fokus på AI, automatisering og optimering af forretningsprocesser. Gustav kommer fra en stilling som Business Development Specialist hos SAP Danmark A/S. Gustav er uddannet Cand.merc Sales Management. Gustav har tidligere beskæftiget sig med forretningsudvikling og salgsstrategi inden for ERP-teknologi. Nyt job

Gustav Olsen

IFS Danmark A/S

Netip A/S har pr. 17. august 2026 ansat Jesper U. Sørensen som Seniorkonsulent ved netIP's kontor i Esbjerg. Han kommer fra en stilling som Chief Technology Officer hos NetSec ApS, hvor han også var partner. Nyt job