Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Sikkerheden ved kunstig intelligens (AI) har været stærkt omdiskuteret de sidste par uger - lige siden en forsker fra amerikanske Anthropic var ude og advare om, at der efter hans overbevisning var mere end 10 procents risiko for, at AI kunne slå alle mennesker ihjel indenfor det næste årti.
Estimatet reflekterer et såkaldt P(doom), det vil sige the probability of doom: P(doom) beskriver ens procentvise estimat over risikoen for, at AI kan tilintetgøre os allesammen.
I Silicon Valley har det i adskillige år været en hyppigt brugt ice-breaker og samtaleemne i tech-kredse netop at diskutere, hvad ens P(doom) er.
Dermed er der intet odiøst i, at en medarbejder fra et ledende tech-selskab sætter tal på, hvorvidt AI kan slå os alle ihjel - om end mit eget P(doom) ligger en del lavere end de 10 procent.
Selvom der er reel risiko forbundet med teknologien, så vil jeg mene, at den største årsag til risikoen er os mennesker – primært politikere, producenter og passive.
Et globalt problem uden globale regler
Først og fremmest er der et politisk system, som skal lovgive og overvåge udviklingen.
Dette foregår både på nationalt, regionalt og globalt niveau.
Selvom vi måske i Europa har været gode til at sætte nogle rammevilkår op for at sikre en nogenlunde forsvarlig tilgang til AI, så er der generelt set et manglende internationalt samarbejde.
Hverken USA eller Kina er specielt interesseret i at lovgive for hårdt, og de ønsker slet ikke at samarbejde med hinanden.
Tværtimod så har AI-ræset udviklet sig til et geopolitisk våbenkapløb. Så man kan ikke have den fornødne tillid til, at politikerne kan eller vil inddæmme risikoen.
Konkurrenter i kapløb
Så er der producenterne, det vil sige de kommercielle tech-selskaber, der udvikler AI-modellerne eller understøtter økosystemet dertil.
Disse aktører har også et våbenkapløb om at være den første spiller til at udvikle AGI (artificial general intelligence, det vil sige maskin-intelligens, der matcher menneskelig intelligens).
Udover at de kæmper indbyrdes om at opnå dette, så kæmper de også indbyrdes om markedsandele og de har alle en kommerciel interesse i at fortsætte udviklingen.
Dermed kan man heller ikke have den fornødne tillid til, at disse aktører kan inddæmme risikoen.
Passive (for)brugere
Sidst men ikke mindst er der de passive.
Det vil sige den store gruppe af brugere, der forbruger AI – men ikke aktivt tager stilling til de større problematikker, som teknologien fører med sig (for eksempel massearbejdsløshed, miljøbelastning – samt eksistentiel risiko).
Her er fokus på den næste prompt og modellancering, men man arbejder ikke aktivt med at tage stilling til de afledte effekter af teknologien.
Man er dermed blot en passiv forbruger af AI. Her skal man således heller ikke have tillid til, at de inddæmmer risikoen.
Ingen kan løbe risikoen alene
Der er således tre grupper (politikere, producenter og passive), der lige nu er ude af stand til at få AI-risikoen til at blive mindre.
Det er først, når vi ser et samarbejde indbyrdes og mellem grupperne, at vi måske kan sove lidt mere roligt om natten.
Indtil da, må erhvervsledere lægge deres strategier efter, hvad de estimerer deres egen P(doom) til.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
