Hvad nu hvis kunstig intelligens ikke bare overtager en række af vores arbejdsopgaver, men også den dømmekraft og de institutioner, som vores demokrati er bygget på?
Det spørgsmål har den amerikanske historiker Jill Lepore sat sig for at undersøge i sin nye bog ”The Rise and Fall of the Artificial State”.
Det er en bog, der både kan læses som en advarsel og som en inspirationskilde.
Ifølge Lepore er vi i fuld gang med at overlade den menneskelige dømmekraft og kontrollen over demokratiske institutioner til det, hun kalder den ”kunstige stat”.
Når hun taler om den kunstige stat, er det ikke nødvendigvis en bestemt stat eller regering i klassisk forstand.
Det er i stedet hendes betegnelse for et samfund, hvor algoritmer, data, platforme, AI-systemer og virksomheder i praksis kommer til at regulere menneskelig adfærd.
På den måde hjælper teknologien ikke bare med at administrere staten, men begynder også at overtage dele af den magt, som tidligere lå hos mennesker og demokratiske institutioner.
Samtidig understreger hun, at den allerede eksisterende kunstige stat ligesom systemer som feudalisme, fascisme og slaveri kan afvikles igen, men at det kræver en forståelse af, hvordan den er opstået.
Den kunstige stats historie er således fundamentet bag The Rise and Fall of the Artificial State, som allerede er blevet en New York Times-bestseller.
Det er måske værd at bemærke, at Jill Lepore bestemt ikke er nogen hvem som helst.
Tidligere på året vandt hun den amerikanske Pulitzer-pris i historie for ”We the People: A History of the U.S. Constitution”. Til daglig er hun professor i amerikansk historie ved Harvard University og professor ved Harvard Law School.
Jill Lepore beskriver i bogen, hvordan lanceringen af ChatGPT blev hendes ”Sputnik-øjeblik”, hvilket formentlig er en oplevelse, hun deler med mange andre.
For den amerikanske historiker handler det dog ikke så meget om selve teknologien bag ChatGPT, men om hvordan gennembruddet har udløst et globalt kapløb, hvor virksomheder og stater reagerer hurtigt og investerer massivt i den nye teknologi af frygt for at komme bagefter.
I det lys fremhæver hun, at Silicon Valley ikke bare leverer teknologi, men også sine helt egne politiske idéer.
Ifølge hende smelter nogle tech-giganters ønsker om øget automatisering, transhumanisme og teknologisk styring sammen med ønsket om at slippe for traditionelle institutioner og begrænsninger.
For Jill Lepore er spørgsmålet ikke mindst, hvem der kontrollerer centrale samfundsfunktioner og deres udvikling, når de i stigende grad bliver afhængige af AI.
Det hele tegner umiddelbart et meget dystert billede, men alene i bogens titel lægger forfatteren op til, at udviklingen af hendes kunstige stat ikke er uundgåelig.
Fordi den kunstige stat er bygget af mennesker gennem konkrete tekniske, politiske og økonomiske valg, kan kursen ifølge Jill Lepore også ændres.
Men det forudsætter som sagt, at man har sat sig ind i den kunstige stats historie, og her Jill Lepores bog oplagt sted at starte.
