Kunstig intelligens er et tveægget teknologisværd: Har et kæmpe-potentiale for hackerne - se eksempler på den avancerede brug her

Kunstig intelligens (AI) og machine learning kan allerede i dag bruges til deep fake-video, hvor personers ansigter kan skiftes ud med andre ansigter, selv i live video som eksempelvis et telefonmøde. Det samme gælder stemmen. Deep fake-teknologien vil i kommende år blive mainstream. AI har potentiale til at ændre balancen, fordi det kan gøre truslerne både langt sværere at gennemskue og gøre angrebene langt mere massive.

Denne klumme er et debatindlæg og er alene udtryk for skribentens synspunkter.

Forestil dig, at du sidder i videomøde med din chef, som er i udlandet.

Han fortæller dig om en ny spændende samarbejdspartner og beder dig sørge for, at der bliver straksoverført et forskud på 20.000 EUR til partneren i dag.

Du fikser overførslen og tænker ikke mere på den sag. Ikke før du et par timer senere noget overraskende møder din chef. Som ikke er i udlandet. Ikke har bedt dig overføre penge. Og ikke har haft videomøde med dig.

Kunstig intelligens (AI) og machine learning kan allerede i dag bruges til deep fake-video, hvor personers ansigter kan skiftes ud med andre ansigter, selv i live video som eksempelvis et telefonmøde. Det samme gælder stemmen.

Har hackerne for eksempel adgang til en video med din chef på YouTube, Facebook eller LinkedIn, vil de nemt kunne kopiere hans stemme med for eksempel softwaren Lyrebird.

Deep fake-teknologien er stadig avanceret, men vil i de kommende år blive mainstream.

Det vil betyde, at vi om en kort årrække har AI, der på den ene side kan benyttes til imponerende, harmløs underholdning, men som samtidig også bliver tilgængelig for cyberkriminelle, der kan misbruge den til avancerede svindelnumre som i eksemplet i indledningen.

Mange sikkerhedsproducenter, herunder også Trend Micro, gør allerede brug af den seneste AI for bedre at kunne detektere og afsløre ondsindet adfærd. Men AI er et tveægget sværd.

Den samme teknologi giver nemlig samtidig de cyberkriminelle helt ny muligheder for både at nedkæmpe traditionel sikkerhedsteknologi og udtænke nye angrebsformer.

Spørgsmålet, der lige nu bekymrer sikkerhedsbranchen, er, om udbredelsen af AI’en over de kommende år i sidste ende vil gøre det umuligt at stoppe de cyberkriminelle, eller om branchen er i stand til at forny sig og holde sig foran med nye innovative teknologier?

Angreb i stor skala med AI
Målrettede angreb, hvor cyberkriminelle går efter en bestemt virksomhed, organisation eller person, har indtil videre været rettet imod relativt få.

Det tager lang tid for en cyberkriminel at researche og forstå, hvordan det potentielle offers arbejdsgange er, hvad personen eller personerne er mest tilbøjelig til at klikke på etc.

AI kan i kombination med andre værktøjer gøre de cyberkriminelle i stand til at udføre målrettede angreb i enorm skala, fordi mange af analyseprocesserne vil kunne automatiseres.

Der kan udvikles værktøjer, som indsamler og analyserer data fra for eksempel LinkedIn og andre typer tredjepartsdata og som derudfra kan forudsige ofrenes adfærd.

Ved hjælp af disse oplysninger vil de cyberkriminelle kunne udføre tusindvis af målrettede angreb, hvor det enkelte offer modtager phishing-e-mails, som ved hjælp af AI er skræddersyede til netop deres personlige profil.

Hos Trend Micro bruger vi i dag AI i vores “Writing Style DNA”-teknologi, som kan analysere den enkelte brugeres skrivestil i e-mails for at kunne afsløre, hvis nogen udefra eksempelvis har fået adgang til direktørens e-mailkonto og sender beskeder i hendes navn.

Det type svindel kaldes 'business email compromise' eller direktørsvindel og har i løbet af de seneste tre år medført, at danske virksomheder er blevet snydt for 310 millioner kroner.

Ser man nogle år frem, vil den type svindel været langt sværere at afsløre, når de cyberkriminelle selv har adgang til AI, som kan analysere direktørens skrivestil, før de udfører svindelnummeret.

Hackere kan også benytte AI til at analysere brugernes webadfærd og på den måde forudsige, hvad det enkelte potentielle offer klikker mest på.

Ved hackerne, at du ofte besøger en bestemt webshop ved frokosttid, kan de kl. 11.50 sende dig en phishing-e-mail, som ser ud, som om det er en rabatkode til netop din yndlingswebshop. Du skal bare klikke på linket i mailen for at få rabatten ...

De cyberkriminelle kan flyve under radaren med AI
AI giver mulighed for at analysere adfærd og se mønstre, som mennesker ikke kan se.

Det giver hackerne en fordel, når formålet er at stjæle data uden at blive afsløret af den seneste sikkerhedsteknologi.

I dag er de fleste sikkerhedsteknologier designet til at holde øje med forskellige typer af usædvanlig aktivitet på virksomhedens netværk, fordi det kan indikere, at der er tale om en trussel.

Men hvad nu, hvis de cyberkriminelle er i stand til at skjule deres aktiviteter, som de på ingen måde ser usædvanlige ud? Så vil både normal og unormal aktivitet se ens ud. Så kan de kriminelle flyve under radar og bevæge sig rundt i virksomhedernes it-systemer uden at blive opdaget.

Vi er der ikke endnu, men ...
AI vil uundgåeligt ende som “as-a-service”-produkter i den cyberkriminelle undergrund – ligesom vi har set det med blandt andet ransomware.

Når det sker, vil stort set alle og enhver kunne leje teknologi, som gør det muligt at producere deep fake-livevideo.

Dermed vil enhver videostream kunne manipuleres, og ansigter på både virksomhedsledere og politikere vil kunne kopieres og sættes på cyberkriminelles ansigter som 100 procent vellignende masker.

Det får realismen og autenticiteten i nutidens BEC-angreb til at blegne med potentielle økonomiske og politiske katastrofer til følge.

Våbenkapløbet mellem sikkerhedsbranchen og de cyberkriminelle er ikke nyt. Det har været i gang de seneste 20 år.

Indtil videre har de gode trukket det længste strå.

Men AI har potentiale til at ændre balancen, fordi det kan gøre truslerne både langt sværere at gennemskue og gøre angrebene langt mere massive.

Vi er derfor nødt til at tænke fremtidens sikkerhed langt bredere og mere nuanceret end nutidens metoder og konstant arbejde for, at sikkerhedsbranchen er blandt de mest innovative og fremsynede i it-sektoren.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os noget tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.





Ytringer på debatten er afsenders eget ansvar - læs debatreglerne
Indlæser debat...

Premium
Elgiganten har skiftet støvet intranet ud med Facebooks Workplace: "Nu er det okay at svare på direktørens besked med en GIF af Leonardo DiCaprio fra filmen Wolf of Wall Street"
De 2.300 medarbejdere i Elgiganten blev i 2016 præsenteret for et nyt moderne intranet. Ind kom Facebooks erhvervsrettede kommunikationsplatform Workplace, som selskabet efter et par år nu gør status på. Læs her om elektronikkædens erfaringer og oplevelser med platformen.
Computerworld
Overblik: Så meget betaler danske virksomheder i løn til it-medarbejderne - se listerne her
Overblik: Der er meget stor forskel på løn-niveauet for it-medarbejderne i de danske virksomheder. Få overblikket over, hvor lønnen er højest og lavest her.
CIO
SAP's nye nordiske direktør: "De seneste uger har jeg besøgt en del kunder her i Norden - og alle talte om at vende tilbage til en eller anden form for standard."
Det store ryk til cloud brød med mange års it-konsolidering og skabte komplicerede it-miljøer. Men nu peger kundernes kompas den anden vej, fortæller erfaren SAP-boss efter nordisk rundrejse.
Job & Karriere
"Vi var fem mennesker, der fik 400 millioner kroner, et lokale på 12 m2 og et stempel fra Undervisningsministeriet. Det kalder jeg mit første start-up. Det blev til IT-Universitetet. "
"Da jeg var færdig med PhD´en så var vi fem mennesker, der fik 400 millioner kroner, et lokale på 12 m2 og et stempel fra Undervisningsministeriet. Så skulle vi bare have et nyt universitet op og køre på seks måneder. Det kalder jeg mit første start-up. Det blev til IT-Universitetet."
White paper
Sikkerhedsimplikationerne ved digital transformation
I Fortinets rapport fra 2018 omkring sikkerhedsimplikationerne ved digital transformation, tages temperaturen på den aktuelle tilstand for Cybersecurity i organisationer rundt omkring i hele verden. Blandt de 300 respondenter viste der sig en række spændende trends. Her er et par stykker af dem: - Digital Transformation er den mest indflydelsesrige it-trend i organisationer i dag. Hele 92% svarede at det har stor indvirkning på deres forretning - Sikkerhed er den klart største udfordring i forhold til digital transformation. Hele 85% mener det har stor indvirkning på deres forretning Download hele rapporten her og få flere spændende findings.