Artikel top billede

Kunstig intelligens har stor betydning på it-sikkerhedsområdet: Kan hjælpe både angribere og forsvarere - men skal anvendes rigtigt

Klumme: Machine learning og andre teknologier inden for kunstig intelligens kan hjælpe såvel hackere som sikkerhedsfolk.

Denne klumme er et debatindlæg og er alene udtryk for skribenternes synspunkter.

Ansigtsgenkendelse. Selvkørende biler. Diagnosticering af patienters sygdomme.

Tre eksempler på områder, hvor kunstig intelligens indgår. Teknologien kan løse problemer på nye måder og åbne for nye muligheder. Men den medfører også sikkerhedsmæssige udfordringer.

Jeg mener, vi bør betragte kunstig intelligens og sikkerhed fra to vinkler: Angriberens og forsvarerens.

Angriberen kan være en it-kriminel, der er ude efter penge eller fortrolige oplysninger. For en angriber indebærer kunstig intelligens mindst tre muligheder.

For det første kan traditionelle typer af angreb forstærkes og forbedres med kunstig intelligens.

Et eksempel kan være målrettet svindel, såkaldt spearphishing. En angriber kan bruge machine learning til at analysere potentielle ofres opførsel.

Når et offer klikker på et link til en forfalsket login-side, bruger systemet den viden til at forbedre sin indsats:

Det bliver klogere på, hvad der skal til for at lokke folk i fælden. For det andet kan de kriminelle angribe kunstig intelligens-systemer hos deres ofre.

Det kan eksempelvis ske ved at forgifte de data, der indgår i modellerne til machine learning. Den type systemer lærer ved at blive præsenteret for store mængder data.

For eksempel kan et system lære at genkende et billede af et får ved at se en masse billeder af får.

Men hvis en angriber har held til at smide en bunke billeder af ulve ind i datasættet, bliver modellen forvirret, så den ikke længere kan genkende et får.

Den tredje mulighed for angribere går ud på at stjæle den værdi, som indgår i systemerne med kunstig intelligens. Det kan for eksempel være hele den model, som en virksomhed anvender til at vurdere værdipapirer med.

Dermed kan angriberen udnytte virksomhedens viden til at score kassen på børsspekulationer.

Analyse af trafikdata

Og nej, angreb med og på systemer med kunstig intelligens er ikke noget fundamentalt nyt sikkerhedsmæssigt.

Vores opgave som sikkerhedsfolk er fortsat at sikre informationernes tilgængelighed, fortrolighed og autenticitet.
Men der kan blive brug for nye værktøjer til at beskytte de nye typer systemer.

Et af de værktøjer kan være – kunstig intelligens.

I DKCERT undersøger vi således mulighederne i at bruge machine learning til at analysere netværksdata. Vi har adgang til metadata om den trafik, der går gennem de centrale routere i forskningsnettet.

Ved at hente de data ind i et paralleliseret big data-system kan vi analysere dem. Vores plan er at opbygge et system, der lærer at genkende trafikmønstre, som vi er interesserede i.

Machine learning kan gøre det muligt at se angrebsmønstre, som ellers kan være svære at opdage. Dermed vil vi hurtigere kunne opdage og standse angrebsforsøg.

Måske vil teknologien ligefrem kunne hjælpe os med at forudsige fremtiden: Ud fra data om tidligere angreb kan vi forudse kommende angreb.

Styrker password-sikkerhed

Machine learning kan også gøre autentifikation af brugere mere sikker. Traditionelt har vi stolet på kombinationen af et brugernavn og et password.

Men erfaringen viser, at den kombination ikke er stærk nok: Brugere genbruger passwords på tværs af tjenester eller vælger svage passwords, der er lette at gætte.

Her kan machine learning komme ind: Autentifikationssystemet nøjes ikke med at tjekke, om brugernavn og password passer sammen. Det ser også på, om login-proceduren ser rigtig ud:

Plejer brugeren at logge ind fra dette netværk med denne enhed på denne geografiske placering? Er der mange fejlslagne forsøg? Er klokken tre om natten – og er det normalt for brugeren?

Hvis systemet synes, noget virker tvivlsomt, kan det stille krav om ekstra sikkerhed, for eksempel via to-faktor-autentifikation.

Kig på teknologien

Hvis jeres organisation anvender kunstig intelligens-teknologier, bør I overveje, hvilke særlige krav det stiller til sikkerhedssystemerne.

Uanset om I bruger kunstig intelligens, kan jeg anbefale at tage teknologien med i overvejelserne, når I planlægger fremtidens sikkerhed.

Kunstig intelligens kan øge truslerne mod jeres informationer. Men den kan også forbedre sikkerheden, hvis den bruges rigtigt.

DKCERT (www.cert.dk) er et dansk Computer Security Incident Response Team, der håndterer sikkerhedshændelser på forskningsnettet. I samarbejde med tilsvarende organisationer over hele verden indsamler DKCERT information om internetsikkerhed. DKCERT er en organisation i DeiC (Danish e-Infrastructure Cooperation).

Henrik Larsen, der er chef for DKCERT og bestyrelsesmedlem i Rådet for Digital Sikkerhed, opdaterer en gang om måneden Computerworlds læsere med de seneste tendenser inden for informationssikkerhed.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os noget tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Erhvervsakademiet Lillebælt
Udvikling og salg af klassebaseret undervisning, blandt andet inden for multimedie og it.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Årets CISO 2021

I både offentlige og private organisationer er der behov for at uddanne, rekruttere og fastholde de bedste it-sikkerhedsfolk, fordi sikkerhedsudfordringerne konstant forandres. Derfor sætter vi fokus på best practice inden for it-sikkerhed, og vi vil samtidig fremhæve de personer i Danmark, der gør et ekstra stykke arbejde for at styrke den digitale sikkerhed. Vi hylder derfor årets CISO 2021 på denne konference.

05. oktober 2021 | Læs mere


Dynamics Excellence Day 2021 - indblik, best practice og øget værdi

Med Microsoft Dynamics 365 er Microsoft rykket mod skyen og har fuld integration til både Dynamics, CRM, Office 365, Power BI og Cortana. Det giver utrolig mange muligheder, hvis du griber det rigtigt an. Vi sætter fokus på værdiskabelse og forbedring for både nuværende og nye Dynamics-brugere.

07. oktober 2021 | Læs mere


CISO Trends 2021: Sikkerhed, trusler og strategi

Vi kan ikke komme uden om, at CISO'ens rolle bliver mere og mere markant i de fleste organisationer grundet det evigt omskftelige trusselsbillede. It-sikkerhed er forlængst blevet en forretningskritisk disciplin, hvor dele af og hele organisationer kan blive lagt ned af at enkelt angreb. Derfor ser vi nærmere på det overordnede trusselsbillede, og hvordan CISO'erne konstant skal være på vagt over for nye trusler.

12. oktober 2021 | Læs mere