Det er sikkert som amen i kirken, at vi inden længe vil se den første bølge af intelligente angreb: Derfor bør vi alle frygte 'dark AI'

Klumme: Kunstig intelligens og machine learning er på vej til at blive så avanceret, at vi skal begynde at frygte for misbrug af teknologien – for en ondsindet kunstig intelligens kommer ikke til at følge de ”tre love” for AI.

Denne klumme er et debatindlæg og er alene udtryk for skribents synspunkter.

Imens verden inden for informationssikkerhed bliver mere og mere kompleks, bombarderes vi af ugentlige annonceringer af produkter og tjenester med machine learning (ML) og artificial intelligence fra hele branchen.

Og selvom det stadig summer med marketingsfloskler og skåltaler om guld og grønne skove omkring kunstig intelligens, så begynder vi nu at se egentlige fremskridt og produkter på markedet.

Vi har langsomt, men sikkert udviklet stadigt mere intelligente algoritmer, og der er eksempelvis allerede et stærkt ønske om at udvide evnerne inden for automatiserede løsninger, der selv kan opdage, monitorere og handle på sikkerhedstrusler (løsninger som går under fællesbetegnelsen SOAR, ”Security, Automation, Orchestration & Response”).

Kan blive et farligt våben
Det er teknologier, som i dag er stærke redskaber og til vores fælles fordel, men som inden længe kan blive et endnu farligere våben i hænderne på folk, der ønsker at gøre os ondt.

En af de mest komplicerede udfordringer med næste generation af automatiske sikkerhedsløsninger er at finde den rette balance mellem intelligens og forudsigelighed.

Det er sikkert som amen i kirken, at vi inden længe vil se den første bølge af intelligente angreb – hvad end det så bliver smart-phishing, selvforsynende og selvudvidende hive-nets eller swarmbots, der selv kan udføre angreb uden indblanding fra mennesker.

Eller hvad med agilt malware, der selv udvikler og tilpasser sig under et angreb?

Bremses i dag - men (nok) ikke imorgen
I dag bremses den mest visionære og avancerede forskning af kunstig intelligens hos whitehat-udviklerne af sociale overvejelser og etiske dilemmaer, men forvent ikke, at den slags vil stoppe morgendagens ondsindede hackere. Tværtimod.

At kunne bygge den mest effektive (og mest ødelæggende) kunstige intelligens har en højere prioritet end at overveje moralske aspekter eller langsigtede konsekvenser.

Dark AI vil ikke blive udviklet i et kontrolleret og lukket miljø, og udviklingen vil under ingen omstændigheder blive reguleret.

Ingen skal forvente, at ddark AI vil overholde de tre love for kunstig intelligens, som forfatteren Isaac Asimov blev kendt for i sin Foundation-serie.

Du tænker måske, at den digitale undergrundsverden ikke har evnerne til at udvikle de avancerede algoritmer, som kan bruges i ondsindet kunstig intelligens? Tro om igen.

Moderne malware og ransomware bliver ikke længere udviklet af små hackergrupper – hvor en enkelt udvikler ofte skulle skrive den samlede kode for malwarens eksekverende og skadelige funktioner.

Tusindvis af markedspladser
I dag ser vi tusindvis af markedspladser skjult på det mørke net, hvor du kan købe specialiserede brudstykker af kode eller shoppe direkte efter de seneste exploits, fuldstændig som du ville købe tøj, sko eller bøger med et tryk på musen.

Typisk ransomware består i dag af mange forskellige sammensatte elementer fra tredjepartudviklere sammen med open source-moduler, hvor hver enkelt er specialiseret i eksempelvis at kryptere/dekryptere, betalingsløsninger, kontrolstyring eller lignende.

At skrive komplekse algoritmer er ikke simpelt arbejde og kræver stadig særligt avancerede programmeringsevner, men det er kun et spørgsmål om tid (og penge), før nogen bygger et gør-det-selv-modul, som tillader andre ondsindede individer at samle AI-styret malware.

Det ser vi allerede i dag i forbindelse med ransomware, og store botnet bestående af hundrede tusindvis af inficerede maskiner og IoT-enheder vil fungere som regnekraft til næste generation af angreb.

Alle faser af ransomware-angreb
Realistisk set skal vi forvente at se algoritme- og AI- optimeringer i alle faser af ransomware-angreb, uanset om det er de tidligere stadier af rekognoscering og infektion eller i forbindelse med fjernstyring og kontrol, spredning eller afpresning.

Med truslen om modulære og intelligente malware- og ransomware-angreb er det på tide at rive din statiske sikkerhedsplan i stykker og implementere et adaptiv lag af kombinerede sikkerhedsløsninger.

Forsvarsværnet er nødt til at bremse eller bryde angreb på så mange stadier som muligt og på den måde undgå kompromittering.

I stedet for to store hære, der støder sammen på slagmarken i et enkelt stort slag, kommer vi i fremtiden til at se hybrid krigsførelse, hvor der i cyberspace vil ske tusindvis af isolerede angreb, hvor de fleste af dem sker uden menneskelig indblanding.

Hvad end den type angreb kommer fra stater, industrispionage eller it-kriminelle, må man på fremtidens digitale slagmark bekæmpe ild med ild og selv benytte automatisering og agile sikkerhedsløsninger, der tilpasser sig on-the-go.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os noget tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.






Ytringer på debatten er afsenders eget ansvar - læs debatreglerne
Indlæser debat...

Premium
”Vores løsning vil betyde, at du som patient kan tage et billede af en pille med din telefon og herefter få bekræftet, at den medicindosis du er ved at indtage er valid.”
Virkningsløs piratmedicin koster tusindvis af liv hvert år, men it-giganten IBM mener, at den har fundet en løsning på problemet. Bliv klogere på hvordan IBM vil bruge blockchain til at forhindre svindel i medicinalindustrien supply-chain
Computerworld
Se listen: Disse it-virksomheder drømmer de danske it-studerende om at arbejde for
Konsulenthusene buldrer frem på listen over de virksomheder, som de danske it-studerende helst vil arbejde for. "Konsulenthusene har simpelthen øget kendskabet til sig selv som arbejdsgiver blandt de it-studerende. Det kræver heftig aktivitet på de sociale medier og universiteterne," lyder det fra Universum, der står bag undersøgelsen.
CIO
Sådan kan du stå imod, når hackerangrebet rammer: 16 nye anbefalinger fra politiet
En ny vejledning fra Rigspolitiet og Dansk IT skal hjælpe danske virksomheder med at få bedre styr på it-sikkerheden. Se her, hvad du bør gøre før, under og efter du bliver ramt af et hackerangreb.
Job & Karriere
500 uorganiserede it-folk skal holde liv i statens it-systemer under konflikt
Hvis der udbryder konflikt, vil hundredvis af uorganiserede it-folk få ansvaret for at sikre, at de statslige it-systemer ikke går ned. Men ifølge fagforbundet Prosa kan det få store konsekvenser, hvis Danmark bliver ramt af it-sikkerhedsangreb.
White paper
11 skridt, der sikrer dig det bedste udbytte af dit CRM-projekt
Dette whitepaper identificerer 11 skridt, som enhver organisation bør gennemgå i forbindelse med CRM-implementering.