Siden OpenAI lancerede Chat-GPT tilbage i slutningen af 2022, er virksomheden for alvor blevet én af de helt store spillere i kampen om at udvikle en såkaldt artificial general intelligence – normalt forkortet AGI – som er en kunstig intelligens der kan forstå og lære på samme niveau som et menneske.
Men på trods af teknologiens hype og potentielle anvendelsesmuligheder, er det måske ikke til vores fælles bedste, at den overhovedet bliver skabt.
Sådan lyder det i hvert fald fra den prisvindende journalist Karen Hao, som på baggrund af omfattende korrespondance og cirka 300 interviews, har skrevet bogen “Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI.”
I bogen får vi historien om OpenAI’s grundlæggelse, om samspillet mellem blandt andet Elon Musk og Sam Altman samt om, hvordan virksomhedens åbenhed og non-profit organisation i begyndelsen skulle fungere som en slags modvægt til blandt andet DeepMind.
Dog har Elon Musk efterfølgende forladt projektet, mens virksomheden ifølge Karen Hao har udviklet sig til en hemmelighedsfuld og konkurrenceorienteret organisation med lidt for skarpt blik på profit.
Således beskriver hun, hvordan den Sam Altman i spidsen søger at positionere sig tættere på magtens centrum i et forsøg på at få fat på de kontrakter der skal sikre udviklingen af en regulær AGI.
Men selv om bogen primært beskæftiger sig med Sam Altman og OpenAI, så forsøger den også at få et perspektiv på hele AI-industrien.
Hertil drager forfatteren blandt andet paralleller mellem nutidens techvirksomheder og fortidens imperier, som begge tilraner sig magt for at opnå sine mål.
Eksempelvis nævner forfatteren hvordan techvirksomheder i stigende grad udnytter arbejdskraft, udvinder enorme ressourcer, monopoliserer produktion af viden inden for AI og har en fortælling om at de er de ”gode” imperier, som bliver nødt til at vinde over de ”onde” imperier som eksempelvis Kina.
Samtidig nævner bogen det, der mest af alt kan betegnes som en quasireligiøs bevægelse i Silicon Valley, hvor nærmest ubetingede techoptimister er i åben strid med dem, der mener at en alt for magtfuld AI-teknologi kan blive menneskehedens undergang.
Forfatteren kritiserer desuden målet om at skabe en AGI, da der ikke er videnskabelig konsensus om sådan en teknologi overhovedet kan skabes.
Hvorimod hun tværtimod mener, at der er rigeligt med evidens for, at jagten på en AGI forårsager udnyttelser af ressourcer og arbejdskraft samt mindsker demokratiske rettigheder.
Det er således Haos overbevisning, at vi i stedet for at abonnere på idéen om en ”altmuligmaskine”, bør fokusere på AI’s, der kun er trænet til at udføre begrænsede opgaver som for eksempel at opdage kræft tidligere eller integrere bæredygtig energi i energiforsyningen.
Det er dog under alle omstændigheder en debat, der med garanti vil fortsætte for fuld kraft.
Men hør eventuelt selv forfatteren fremlægge nogle af sine pointer i denne video fra The Observer UK.