Når virksomheder og myndigheder tager kunstig intelligens i brug, handler diskussionen ofte om, hvorvidt AI-løsninger må træffe deres egne beslutninger, og om de beslutninger så er de rigtige.
Men hvad er egentlig den rigtige, rationelle beslutning? Og hvordan kan vi overhovedet være sikre på, at selv alle tilgængelige data er nok til at beregne de rigtige beslutninger matematisk?
Den problemstilling har Benjamin Recht sat sig for at undersøge med bogen ”The Irrational Decision: How We Gave Computers the Power to Choose for Us”.
Her beskriver han, hvordan computerrevolutionen siden 1940’erne har formet vores opfattelse af rationalitet.
Og mens kraftigere og kraftigere computere i dag har overtaget flere og flere opgaver, har de også indirekte lært os at tro, at en god beslutning altid kan udregnes matematisk.
Benjamin Rechts pointe er, at computerrevolutionen har gjort en bestemt matematisk form for rationalitet dominerende.
Det betyder, at den rationelle beslutning er blevet den, der på baggrund af data maksimerer sandsynligheden for et ønsket resultat.
Og eftersom ingen ønsker at træffe irrationelle beslutninger, kan rationelle beslutninger i stigende grad opfattes som noget, der skal baseres på data.
Benjamin Recht understreger dog også, at menneskelige problemer kræver løsninger, der bygger på menneskelig intuition, moral og dømmekraft.
Ifølge The Irrational Decision bliver nutidens beslutninger oftest behandlet som risikoberegninger. Alt fra sundhed og børneopdragelse til politik og sport bliver til sandsynligheder, omkostninger og forventet gevinst.
Forfatteren beskriver, hvordan fire discipliner udgør fundamentet under den moderne algoritmiske verden, nemlig matematisk optimering, spilteori, randomiserede eksperimenter og statistisk forudsigelse.
De fire områder leverer ifølge Benjamin Recht grundlaget for mange af de automatiserede beslutninger, der styrer annoncer, forsyningskæder, flyplaner og digitale tjenester.
Og det er der ifølge forfatteren meget godt at sige om.
Problemet er dog, at ikke alle problemer kan formuleres matematisk, og det bliver et problem, hvis det, der kan måles og optimeres, også automatisk er det vigtigste.
Ifølge forfatteren kan et system sagtens beregne, hvordan en organisation mest effektivt når et fastsat mål.
Men det kan ikke afgøre, om målet er retfærdigt, moralsk acceptabelt eller politisk legitimt.
Samtidig kan data ifølge forfatteren skabe en illusion om neutralitet. Hvis en beslutning er statistisk optimal, kan den fremstå objektiv og hævet over værdipolitik, men modellerne er bygget på menneskelige valg om mål, omkostninger og risici.
For Benjamin Recht er fremtidens ideal ikke, at mennesker prøver at efterligne maskinernes rationalitet.
Computere skal bruges der, hvor deres styrker kommer til deres ret.
Men ifølge Recht bør beslutninger, der bygger på værdier, etik og menneskelig dømmekraft stadig være menneskers ansvar.
