Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Er kunstig intelligens et aktiv eller et problem, når det gælder informationssikkerhed?
Det spørgsmål hører jeg meget for tiden. Kunderne rækker ud og spørger til ChatGPT. Både etik og sikkerhed.
Og de spørger generelt til, hvordan de skal forholde sig til kunstig intelligens. Hvad med deres omdømme, hvis de bliver misbrugt, og hvilke farer er der i øvrigt?
Kunstig intelligens tilbyder en masse muligheder for sikkerhedsarbejdet, men indebærer også en masse nye risici – og dermed grund til lige at trække luft ind og tænke sig godt om.
Arbejdet med informationssikkerhed har altid været et våbenkapløb på teknologi. Og også med kunstig intelligens gælder det, at den kloge skyder først.
Det handler om at have den gode kunstige intelligens – og om at have den før banditterne. Hvis det lykkes, så kommer kunstig intelligens til at revolutionere sikkerhed på den gode måde.
Den vil kunne spotte små, subtile indbrudsforsøg, som mennesker ikke vil se. Den kan håndtere enorme datamængder.
Og den skal ikke have kaffepauser og sove en gang i døgnet, så den kan klø på, til problemet er løst, hvilket gør den til en god ”kollega” at sætte til rutineopgaver som for eksempel at opdatere og patche systemer.
Alligevel vil jeg mane til forsigtighed med to gode råd midt i ”AI-begejstringen”:
1: Lad robotter rådgive og gøre det hårde arbejde, men lad mennesker tage beslutninger
Vi har selv taget kunstig intelligens til os i Accenture og har sparet tusindvis af timer. Og vi ser store muligheder i at købe ind i kunstig intelligens ’as-a-service.’
Det kan fjerne presset i forhold til at skulle rekruttere sikkerhedsspecialister ude i virksomhederne – hvilket som bekendt er en kæmpe udfordring. Måske den største udfordring lige nu for arbejdet med informationssikkerhed.
Vi har gennemført en analyse, der viser, at stort set alle (89 procent) af de virksomheder, der klarer sig bedst i forhold til cyber security, anvender automatisering. Det gælder kun godt halvdelen (57 procent) af de øvrige virksomheder.
Det giver god mening, for det er formentlig billigere end at ansætte en person eller et helt team, men kunstig intelligens må aldrig tage den sidste beslutning.
Systemerne er stadig fejlbarlige og ikke bedre end de data, der bliver trænet på. Der er risiko for, at for meget hastværk betyder, at vi uforvarende får indbygget fejl og bias i de data eller metoder, der trænes på.
Og der er en risiko for, at banditter kan lykkes med at ”forurene” deres træningsdata, og dermed indlejre sårbarheder.
Derfor: Lad den kunstige intelligens finde nålene i høstakken, men sørg for, at det er et menneske, der trykker på knappen, når der skal tages beslutninger om handling på baggrund af maskinens rådgivning.
2. Flyt foden til bremsen
Mit andet råd handler også om at skrue lidt ned for teknologibegejstringen.
At menneske-maskine samarbejdet er ved at blive hverdag, fortæller en anden analyse, vi har foretaget. Den viser, at andelen af patenter relateret til kunstig intelligens er øget med hele 2,7 gange fra januar 2017 til oktober 2022.
Og der er i det hele taget godt gang i implementeringen af ny teknologi, som bliver hældt ind i virksomhederne i en iver efter at få en konkurrencemæssig fordel.
Mange har for eksempel på det seneste lukket ChatGPT ind i biksen. Men man bliver nødt til at forstå, hvad der er på spil, for det er svært at følge med i, hvad det betyder.
Samsung havde for nylig et større sikkerhedsbrud på grund af nogle medarbejderes anvendelse af ChatGPT.
Virksomheden valgte efterfølgende at trække i håndbremsen og i hvert fald for en periode stoppe al intern brug af værktøjet.
Det er en fornuftig tilgang, for nogle gange er det altså behov for en tænkepause. Sikkerhedsmedarbejderne har behov for at forstå et nyt domæne.
Det er ikke vejen frem at bandlyse, men vi skal gå til det med respekt, træde et skridt tilbage og lige forstå, hvad vi har med at gøre.
Lige nu er der begejstring og alle ser muligheder i AI. Måske er den netop overståede sommerferie en god anledning til lige at overveje hullerne i osten.
Min opfordring vil i hvert fald være at flytte foden til bremsen.
Iveren for at være ’first movers’ kan hurtigt ende med, at man også er dem, der først får fingrene i klemme.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.