Er advarslerne om farlig AI ægte eller bare en god forretning?

Klumme: Når verdens største AI-selskaber advarer mod deres egen teknologi, er det fristende at mistænke dem for at beskytte deres markedsposition, men en række ting tyder på, at bekymringen ikke kun handler om forretning.

Artikel top billede

Fra venstre: Dario Amodei fra Anthropic, Demis Hassabis fra Google DeepMind og Sam Altman fra OpenAI til et møde med den tidligere den daværende britiske premierminister Rishi Sunak i 10 Downing Street. (Foto: Simon Walker / No 10 Downing Street / CC BY 2.0)

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

Stærke økonomiske interesser i USA støtter nu op om teorien om, at OpenAI, xAI, Anthropic og Google (frontier labs) kun advarer om farerne ved AI, fordi de vil beskytte deres markedsposition.

Teorien er attraktiv, hvis du er verdens største chipproducent (NVIDIA) eller stor investor i AI-virksomheder med forventninger om milliardafkast.

Hvis du ikke har lyst til, at farten i udviklingen sættes ned, er det jo oplagt at tillægge de store frontier labs økonomiske motiver, når de taler om at sænke tempoet.

De, der advarer mod AI, kan fremstilles som virksomheder, der først og fremmest forsøger at beskytte deres egne interesser.

Og forklaringen er umiddelbart let at forstå: Hvorfor skulle virksomheder, der investerer enorme beløb i AI, samtidig advare om, at teknologien kan være farlig?

Her opstår paradokset. På den ene side virker det mærkeligt at advare mod sit eget produkt, når virksomhederne skal forrente de enorme investeringer i datacentre, chips og AI-infrastruktur.

På den anden side kan advarslerne være økonomisk rationelle, hvis de fører til regulering, som gør det vanskeligere for nye konkurrenter at komme ind på markedet.

Det er netop denne sidste forklaring, som kritikerne peger på.

Det er bare næppe hele forklaringen på, hvorfor cheferne for de store AI-firmaer kommer med advarsler.

Internt pres

Flere eksempler peger på, at medarbejderpres er en del af forklaringen på, hvorfor Sam Altman, Elon Musk, Dario Amodei og Demis Hassabis fra de fire frontier labs har advaret om, at deres modeller kan være farlige.

Der har været medarbejdere, som har truet med at sige op eller offentligt kritiseret deres arbejdsgivere, hvis ikke ledelsen gjorde mere for at mindske risikoen for, at AI bliver brugt på farlige måder.

En del medarbejdere er allerede rejst, fordi de ikke har været tilfredse med sikkerhedsarbejdet i det AI-selskab, de arbejdede for.

Et af de mest kendte eksempler er Dario Amodei, der forlod OpenAI og stiftede Anthropic, hvor sikkerhed er en central del af virksomhedens profil.

Et andet eksempel er Ilya Sutskever, der også forlod OpenAI og senere stiftede Safe Superintelligence med fokus på sikker udvikling af AI.

Senest har Jacob Coxons opsigelse fået megen omtale. Også han pegede på bekymringer over, hvordan risiciene ved AI bliver håndteret.

Der er derfor tegn på, at presset fra medarbejdere og sikkerhedsorienterede forskere fortsat spiller en rolle.

AI-kapløb

Senest har Sam Altman foreslået, at Xi Jinping og Donald Trump kunne fortjene Nobels fredspris, hvis de kan blive enige om effektive initiativer på området.

En pris, som Donald Trump i flere år har vist stor interesse for.

Selv om Kina politisk set har lettere ved at gennemføre omfattende regulering og traditionelt har været hurtig til at regulere, er der samtidig bekymring for, om regulering vil betyde, at landet kommer til at halte efter USA på AI-området.

Trump har gentagne gange lagt vægt på, at USA ikke må miste føringen til Kina, og derfor er det svært at se ham tage initiativ til omfattende regulering.

Så selv med udsigten til en fredspris er vejen frem mod en fælles regulering af AI mellem USA og Kina nok både lang og trang.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.

Annonce

Annonceindlæg fra itavis

AI er en stresstest af virksomhedernes digitale fundament

Brug af AI afslører de svagheder, virksomheder allerede har opbygget gennem års cloud-transformation, nye SaaS-løsninger og fragmenterede sikkerhedssystemer.

Navnenyt fra it-Danmark

Arctic Wolfs Network har pr. 1. september 2026 ansat Victor Dohlmann som Sales Director for Nordics. Nyt job

Victor Dohlmann

Arctic Wolfs Network

IFS Danmark A/S har pr. 1. september 2026 ansat Gustav Olsen som Business Development Representative. Gustav skal især beskæftige sig med forretningsudvikling & identificering af muligheder med fokus på AI, automatisering og optimering af forretningsprocesser. Gustav kommer fra en stilling som Business Development Specialist hos SAP Danmark A/S. Gustav er uddannet Cand.merc Sales Management. Gustav har tidligere beskæftiget sig med forretningsudvikling og salgsstrategi inden for ERP-teknologi. Nyt job

Gustav Olsen

IFS Danmark A/S

Netip A/S har pr. 1. november 2026 ansat Morten Fogh som Systemkonsulent ved netIP's kontor i Aarhus. Han kommer fra en stilling som Seniorkonsulent hos Proinfo A/S. Han er uddannet IT-ingeniør med speciale i netværk. Morten har tidligere været selvstændig konsulent. Nyt job

Morten Fogh

Netip A/S

LCG har pr. 1. september 2026 ansat Thomas Wong, 47 år,  som Director of Cyber & Risk Advisory. Han skal især beskæftige sig med Ansvar for at udvikle LCG’s rådgivning inden for cybersikkerhed, cyberrisiko og GRC. Han kommer fra en stilling som VP of security hos Atea. Nyt job