Artikel top billede

Kunstig intelligens har stor betydning på it-sikkerhedsområdet: Kan hjælpe både angribere og forsvarere - men skal anvendes rigtigt

Klumme: Machine learning og andre teknologier inden for kunstig intelligens kan hjælpe såvel hackere som sikkerhedsfolk.

Denne klumme er et debatindlæg og er alene udtryk for skribenternes synspunkter.

Ansigtsgenkendelse. Selvkørende biler. Diagnosticering af patienters sygdomme.

Tre eksempler på områder, hvor kunstig intelligens indgår. Teknologien kan løse problemer på nye måder og åbne for nye muligheder. Men den medfører også sikkerhedsmæssige udfordringer.

Jeg mener, vi bør betragte kunstig intelligens og sikkerhed fra to vinkler: Angriberens og forsvarerens.

Angriberen kan være en it-kriminel, der er ude efter penge eller fortrolige oplysninger. For en angriber indebærer kunstig intelligens mindst tre muligheder.

For det første kan traditionelle typer af angreb forstærkes og forbedres med kunstig intelligens.

Et eksempel kan være målrettet svindel, såkaldt spearphishing. En angriber kan bruge machine learning til at analysere potentielle ofres opførsel.

Når et offer klikker på et link til en forfalsket login-side, bruger systemet den viden til at forbedre sin indsats:

Det bliver klogere på, hvad der skal til for at lokke folk i fælden. For det andet kan de kriminelle angribe kunstig intelligens-systemer hos deres ofre.

Det kan eksempelvis ske ved at forgifte de data, der indgår i modellerne til machine learning. Den type systemer lærer ved at blive præsenteret for store mængder data.

For eksempel kan et system lære at genkende et billede af et får ved at se en masse billeder af får.

Men hvis en angriber har held til at smide en bunke billeder af ulve ind i datasættet, bliver modellen forvirret, så den ikke længere kan genkende et får.

Den tredje mulighed for angribere går ud på at stjæle den værdi, som indgår i systemerne med kunstig intelligens. Det kan for eksempel være hele den model, som en virksomhed anvender til at vurdere værdipapirer med.

Dermed kan angriberen udnytte virksomhedens viden til at score kassen på børsspekulationer.

Analyse af trafikdata

Og nej, angreb med og på systemer med kunstig intelligens er ikke noget fundamentalt nyt sikkerhedsmæssigt.

Vores opgave som sikkerhedsfolk er fortsat at sikre informationernes tilgængelighed, fortrolighed og autenticitet.
Men der kan blive brug for nye værktøjer til at beskytte de nye typer systemer.

Et af de værktøjer kan være – kunstig intelligens.

I DKCERT undersøger vi således mulighederne i at bruge machine learning til at analysere netværksdata. Vi har adgang til metadata om den trafik, der går gennem de centrale routere i forskningsnettet.

Ved at hente de data ind i et paralleliseret big data-system kan vi analysere dem. Vores plan er at opbygge et system, der lærer at genkende trafikmønstre, som vi er interesserede i.

Machine learning kan gøre det muligt at se angrebsmønstre, som ellers kan være svære at opdage. Dermed vil vi hurtigere kunne opdage og standse angrebsforsøg.

Måske vil teknologien ligefrem kunne hjælpe os med at forudsige fremtiden: Ud fra data om tidligere angreb kan vi forudse kommende angreb.

Styrker password-sikkerhed

Machine learning kan også gøre autentifikation af brugere mere sikker. Traditionelt har vi stolet på kombinationen af et brugernavn og et password.

Men erfaringen viser, at den kombination ikke er stærk nok: Brugere genbruger passwords på tværs af tjenester eller vælger svage passwords, der er lette at gætte.

Her kan machine learning komme ind: Autentifikationssystemet nøjes ikke med at tjekke, om brugernavn og password passer sammen. Det ser også på, om login-proceduren ser rigtig ud:

Plejer brugeren at logge ind fra dette netværk med denne enhed på denne geografiske placering? Er der mange fejlslagne forsøg? Er klokken tre om natten – og er det normalt for brugeren?

Hvis systemet synes, noget virker tvivlsomt, kan det stille krav om ekstra sikkerhed, for eksempel via to-faktor-autentifikation.

Kig på teknologien

Hvis jeres organisation anvender kunstig intelligens-teknologier, bør I overveje, hvilke særlige krav det stiller til sikkerhedssystemerne.

Uanset om I bruger kunstig intelligens, kan jeg anbefale at tage teknologien med i overvejelserne, når I planlægger fremtidens sikkerhed.

Kunstig intelligens kan øge truslerne mod jeres informationer. Men den kan også forbedre sikkerheden, hvis den bruges rigtigt.

DKCERT (www.cert.dk) er et dansk Computer Security Incident Response Team, der håndterer sikkerhedshændelser på forskningsnettet. I samarbejde med tilsvarende organisationer over hele verden indsamler DKCERT information om internetsikkerhed. DKCERT er en organisation i DeiC (Danish e-Infrastructure Cooperation).

Henrik Larsen, der er chef for DKCERT og bestyrelsesmedlem i Rådet for Digital Sikkerhed, opdaterer en gang om måneden Computerworlds læsere med de seneste tendenser inden for informationssikkerhed.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os noget tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Jobindex Media A/S
Salg af telemarketing og research for it-branchen, it-kurser og konferencer

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Bliv klar til AI Act: Det vil påvirke både din udvikling, drift og organisation

Fordelene ved at anvende kunstig intelligens bliver stadig mere udtalte, og både som virksomhed og myndighed er det i stigende grad uholdbart ikke at udforske mulighederne. Men der er også risici forbundet på den nye teknologi, og på dette formiddagsseminar ser vi på, hvordan verdens første regulatoriske kompleks – EUs kommende AI Act – adresserer behovet for en etisk, ansvarlig og kontrolleret anvendelse af AI.

20. august 2024 | Læs mere


Det Digitale Produktpas

Kom med og hør om, hvordan du kommer i gang med at sikre din virksomhed er klar til Det Digitale Produktpas. Vi sætter fokus på, hvordan du bliver klædt på til at få styr og struktur på dine data, samt hvilke krav du skal sætte til dine leverandører og andre i din værdikæde, for at sikre den nødvendige information er tilgængelig.

21. august 2024 | Læs mere


Cyber Security Summit 2024

På Cyber Security Summit får du indsigt i det aktuelle trusselslandskab, overblikket over de nyeste værktøjer og trends indenfor sikkerhedsløsninger, indsigt i de relevante rammeværktøjer og krav samt de bedste løsninger og værktøjer til at sikre effektiv drift og høj compliance.

27. august 2024 | Læs mere