”Hvis du krydser floden, vil et stort rige gå under.”
Sådan lød Oraklet i Delfis forudsigelse til den mægtige kong Krøsus af Lydien, der i oldtiden ville vide, om det var en god idé at invadere Persien.
Krøsus tolkede svaret positivt til sin egen fordel og invaderede Persien. Men han tabte krigen, og perserne erobrede dernæst Lydien, der ophørte som selvstændigt kongerige.
Oraklets forudsigelse var således korrekt, men blev bare fortolket forkert. Og den pointe er et af de bærende elementer i ”Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI” af Carissa Véliz.
Oxford-professoren vil nemlig med sin nye bog kaste et kritisk blik på nutidens AI-løsninger og deres forsøg på at forudse fremtiden.
Og fremtiden interesserer vi os alle sammen for. Det er trods alt her, vi skal tilbringe resten af vores liv, som Carissa Véliz beskriver det.
Hun er til daglig professor i filosofi og etik på Oxford University og har bl.a. tidligere skrevet bogen ”Privacy Is Power” om, hvordan man genvinder kontrollen over sine egne data.
Hun argumenterer i ”Prophecy” for, at predictive AI på godt og ondt er det nye Orakel i Delfi.
Så når Elon Musk, Sam Altman og Bill Gates får adgang til præsidenter og premierministre, minder det om en moderne version af hofprofeter som Nostradamus og Rasputin.
Pointen i den sammenhæng er, at AI-profeterne ifølge forfatteren ikke arbejder for det fælles gode, men for at opnå mest mulig magt.
Med sin nye bog vil Carissa Véliz således vise, hvordan samfundet kan tage denne magt tilbage.
Ifølge forfatteren er kunstig intelligens konstant i gang med at lave forudsigelser om os. Det er AI og algoritmer, der afgør, om vi er berettiget til et lån, et job, en lejlighed eller en forsikring.
De bestemmer, hvad vi ser online, hvem der læser vores opslag på sociale medier. Og hvis vi er uheldige, kan en forudsigelse afgøre liv og død, fx om vi får plads på ventelisten til en organtransplantation, eller om vi får lægehjælp i en nødsituation.
Men som Carissa Véliz understreger, er der ingen, der har bedt os om at foretage disse gæt. Ingen offentlig myndighed fører tilsyn med dem, og ingen fortæller os om de ”profetier”, der former vores fremtid.
Samtidig fremhæver forfatteren, at formålet med AI-forudsigelser ikke handler om at kende fremtiden, men om at få kontrol over andre.
Magtfulde mennesker bruger ifølge Carissa Véliz forudsigelserne til at forme fremtiden.
”Prophecy” beskriver også, hvordan selv de mest avancerede forudsigelser i sidste ende er mere eller mindre kvalificerede gæt.
Men bogen viser også, at det, vi ønsker for fremtiden, faktisk påvirker vores forudsigelser, og at magten over forudsigelserne bliver brugt til at få folk til at tænke anderledes, end de ellers ville have gjort.
Det er en bog, som spænder fra fortidens orakler til nutidens AI-profeter, og det er derfor både en tech-bog, en filosofisk bog og en bog om alle de udfordringer, som vores samfund står over for.
Først og fremmest er det dog et tankevækkende indspark i debatten om, hvor meget AI allerede fylder i vores samfund, og hvordan vi egentlig gerne vil have det til at se ud i fremtiden.
Du kan se et længere foredrag af Quinn Slobodian og Ben Tarnoff, hvor de fortæller om bogen her.
