I Florida betaler en fattig person, der aldrig har fået så meget som en fartbøde, betydeligt mere for at forsikre sin bil end en rig person, der er tidligere dømt for spirituskørsel.
Det forekommer totalt absurd, men det passer - og ifølge Cathy O´Neil er det big datas skyld.
Det pågældende forsikringsselskabs algoritme vægter kundernes kreditvurderinger højere end deres adfærd på vejene, når forsikringspræmien skal fastsættes, og derfor kan det i den sammenhæng bedre betale sig at køre spritkørsel end at være lavtlønnet.
Weapons of Math Destruction er fuld af den slags eksempler på umiddelbart uretfærdige systemer, der automatisk tager beslutninger om amerikanske borgere i alt fra uddannelsessektoren til ordensmagten. Algoritmerne bruges flittigt i den offentlige sektor, men samtidig er de ejet af private virksomheder.
De er forretningshemmeligheder, og bogen problematiserer, at man som borger derfor i mange tilfælde ikke kan få indsigt i logikken bag de beslutinger, matematikken har taget om ens liv.
O´Neil har en ph.d. i matematik fra det amerikanske eliteuniversitet Harvard, hun har undervist på MIT og har arbejdet med dataanvendelse i en succesrig hedge fund.
Hun ved kort sagt, hvad hun taler om, men en af bogens store styrker er, at alt er forankret i eksempler fra virkeligheden - det bliver aldrig akademisk og fjernt.
Bogen er skrevet i et letforståeligt engelsk og kan læses på en dag eller to.
Og den giver stof til eftertanke i en tid, hvor danske myndigheder er ivrige efter at sammenkøre registre på kryds og tværs. For vores egen skyld, naturligvis.
Weapons of Math Destruction - How Big Data Increases Inequality and Threatens Democracy (2016). Forlaget Crown. Af Cathy O´Neil. Bogen koster 129,95 kroner som paperback og er på i alt 259 sider.
