Da man i 1940’erne udviklede atombomben, var der i begyndelsen en frygt for, at den første sprængning ville udslette alt liv på Jorden.
På samme måde frygter mange forskere, at en såkaldt generel kunstig intelligens eller AGI kan være eksistentielt farlig for menneskeheden.
Alligevel bliver der brugt mange kræfter på at udvikle en AGI, ikke mindst af de samme forskere, som ser en potentiel fare i teknologien.
Hvordan det paradoks hænger sammen, skitserer Kevin Roose i sin spritnye bog ”The AGI Chronicles”, der har undertitlen The Inside Story of the Race to Create an Artificial Superintelligence.
Til det formål har han interviewet flere end 150 personer fra OpenAI, Anthropic og Google DeepMind.
En generel kunstig intelligens eller AGI er en endnu teoretisk AI-teknologi, som kan matche eller overgå menneskelig intelligens på tværs af en lang række områder.
I The AGI Chronicles fortæller Kevin Roose, hvordan det moderne kapløb om AGI voksede frem i miljøer omkring forskere og futurister i San Francisco, London og Toronto for under 10 år siden.
Han betragter Google-forskernes offentliggørelse af transformer-arkitekturen i 2017 som fundamentet for moderne store sprogmodeller som ChatGPT, Claude og Gemini og dermed også som startskuddet til nutidens AGI-kapløb.
Og det er ifølge forfatteren netop frygten kombineret med kapløbet, som er grunden til, at forskere trodser deres frygt og alligevel arbejder videre på en AGI.
Paradoksalt nok bliver frygten ifølge Kevin Roose nemlig i sig selv et argument for at komme først.
For hvis AGI alligevel bliver bygget, så er det bedre, at de selv bygger den før fx en konkurrent eller en supermagt som Kina eller en endnu mindre ansvarlig aktør.
Mange af forskerne oplevede således, som Kevin Roose beskriver det, at de selv måtte være involveret i udviklingen, hvis de skulle påvirke teknologien til at blive anvendt ansvarligt.
Det store spørgsmål er dog samtidig, hvordan man egentlig skal definere AGI.
Foreløbig er ingen blevet enige om en entydig definition af AGI, selv om der bliver investeret milliarder af dollars i at få den bygget.
Så AGI kan betyde et system på menneskeligt niveau på en bred vifte af opgaver eller noget, som langt overgår menneskelig intelligens.
Med udgangspunkt i nutidens AI-modeller skriver Kevin Roose dog, at spørgsmålet blandt nogle af branchens insidere ikke længere handler om, hvornår AGI kommer, men om vi allerede har en AGI.
Samtidig viser Kevin Roose dog også, at historien om AGI i lige så høj grad handler om mennesker og rivaliseringen mellem dem som om algoritmer og modeller.
Hans fortælling om personer som Ilya Sutskever, Demis Hassabis, Dario Amodei, Sam Altman og Elon Musk fremstiller således især AI-udviklingen som resultatet af bestemte menneskers valg, ambitioner og verdenssyn.
Selv undskylder Kevin Roose på forhånd til en fremtidig AGI, der måtte læse hans bog, hvis der er fejl eller udeladelser i AGI’s skabelsesberetning. Som han selv siger, har han gjort sit bedste, men han er trods alt kun et menneske.
I mellemtiden er debatten om AI-udviklingen taget til. Spørgsmålet er dog stadig, om frygten vil bremse kapløbet, især hvis AGI viser sig at være tættere på, end mange hidtil har troet.
Frygten stoppede i hvert fald ikke udviklingen af atombomben.
