Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
AI er som steroider for de cyberkriminelle – blot uden bivirkningerne.
Machine learning og AI er dog ikke nyt under solen på cybersikkerhedsbranchen. Faktisk begyndte vi allerede at implementere automatiserede analyseredskaber helt tilbage i 2005.
Omvendt har cyberkriminelle indtil nu været nødsaget til at opbygge og forfine angreb i ”menneske-hastighed”, hvilket har medført, at vi på sikkerhedssiden har haft overtaget.
Liberaliseringen af open end AI-værktøjer har dog for alvor fået de cyberkriminelle ud af fjerene, og især kombinationen af malware og AI tegner et skræmmende billede af en fremtid, hvor den kriminelle skyggeverden kan vende magtbalancen, hvis ikke vi hanker op i os selv og følger med udviklingen.
Automatiseret malware kan blive skruen uden ende
Store AI-sprogmodeller (LLM'er) som GPT, LAMDA og LLaMA er ikke kun i stand til at skabe indhold på menneskelige sprog, men også på alle former for programmeringssprog.
Vi har netop set det første eksempel på et selvreplikerende stykke kode, der kan bruge store sprogmodeller til at skabe uendelige variationer af sig selv.
Dette stykke kode er i stand til at inficere programmer skrevet i Python.
Når den udføres, gennemsøger den computeren for .py-filer og kopierer sine egne funktioner ind i dem.
Funktionerne kopieres dog ikke direkte; funktionaliteten beskrives på engelsk til GPT, som derefter opretter den faktiske kode, der kopieres.
Resultatet er en inficeret Python-fil, som bliver ved med at kopiere malwaren til nye filer, og funktionerne omprogrammeres hver gang af GPT.
Det er en vild og foruroligende udvikling.
Teknologien til at automatisere malware-kampagner og omgå intelligente sikkerhedssystemer er uden tvivl mulig at applicere for de kriminelle i dag.
Indtil videre har vi heldigvis ikke set angreb af den slags. Men når det sker – og det vil det desværre snart – vil det endegyldigt signalere, at de cyberkriminelles angreb er gået fra menneske- til maskinhastighed.
Forestil dig malware så intelligent, at ingen sikkerhedssystemer kan dæmme op for det.
Netop det scenarie kan blive til virkelighed, hvis ikke vi indser situationens alvor og accelererer udviklingen af intelligente sikkerhedssystemer.
Hvordan stopper vi ond AI?
Svaret på mit eget retoriske spørgsmål er både simpelt og komplekst på samme tid: Det eneste der kan stoppe ond AI, er god AI. Lad mig give et par konkrete eksempler:
Find hullerne i jeres forsvar: Er virksomhedens it-sikkerhed hullet som en si eller gennemtestet og up to date?
Det spørgsmål bør enhver CIO og CEO stille sig selv og hinanden – hyppigt.
Malware udnytter nemlig ofte sårbarheder i for eksempel forældet it-sikkerhedssoftware.
Anvend AI-sikkerhedsløsninger: At opdage ondsindede handlinger før de sker, er mantraet inden for cybersikkerhed.
Den bedste måde at gøre det på er ved at anvende sikkerhedssoftware, der også benytter machine learning.
AI-algoritmer kan identificere uregelmæssigheder og ondsindede AI-malwareaktiviteter, analysere dem og udvikle effektive forslag til modforanstaltninger.
Uddannelse og awareness: Foruden den nyeste sikkerhedssoftware er det afgørende at uddanne medarbejdere i god cybersikkerhedspraksis og ikke mindst udviklingen af risici, der er forbundet med AI-malware, uopmærksomhed, phishing, mistænkelige links og andre social engineering-taktikker, der bruges til at distribuere malware.
Tænk dine medarbejdere og kollegaer ind som aktive brikker i jeres samlede it-sikkerhedsstrategi.
I sidste ende står og falder kampen mod de cyberkriminelle med at være på forkant med udviklingen – både når det kommer til forsvar- og trusselsbilledet.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
