Smart software kan få dig til at begå kæmpe-brølere

It-kommentator Nicholas Carr har startet en debat om, hvad der sker med vores evne til at tænke selv, når vi automatiserer alt og overlader selv det mest avancerede arbejde til computere. Resultatet kan (måske) være livsfarligt.

Artikel top billede

Computere hjælper os i stigende grad med at klare arbejdsopgaver, der tidligere kun kunne klares manuelt.

I den mere avancerede ende finder vi eksempelvis auto-piloter på flyvemaskiner, digitale diagnosticerings-værktøjer i sundhedssektoren, og it-værktøjer til arkitektens arbejde med at designe en ny bygning.

Det sker også, når skriveprogrammet automatisk retter vores stavefejl eller foreslår et andet ord, når GPS'en viser os vej, og Google fortæller os, hvad det egentlig var, vi ville søge efter.

Det er smart med al den automatisering, men der er en bagside: Hvad sker der, når computerne tager fejl?

Har vi så stadig den viden og de erfaringer - og den logiske tankegang - der gør det muligt for os at bruge vores sunde fornuft og træffe de rigtige beslutninger?

Ikke altid, mener it-forfatter og -kommentator Nicholas Carr, der blandt andet står bag bogen "Does IT matter?" og også har skrevet om, hvad internettet betyder for vores hjerner.

Han har et længere og meget læseværdigt essay i tidsskriftet The Atlantic med titlen The Risk of Putting Our Knowledge in the Hands of Machines.

Han argumenterer ikke for, at vi skal droppe computerne og vende tilbage til de gode gamle dage uden it, men forsøger snarere at belyse de problemstillinger, der opstår i kølvandet på automatiseringen.

"Vores tillid til softwaren bliver så stærk, at vi ignorerer eller ser bort fra andre informations-kilder, inklusive vores egne øjne og ører"

Fly styrtede ned
Et skræmmende eksempel er ifølge Carr en konkret flyulykke med 50 dødsofre, der måske kunne være undgået, hvis piloten ikke havde manglet "fornemmelse for situationen."

"Mange softwareprogrammer klarer intellektuelt arbejde - at observere, fornemme, analysere og dømme, selv at træffe beslutninger - der indtil for nylig blev betragtet som værende forbeholdt mennesker," forklarer han i essayet.  

"Det kan betyde, at den person, der styrer computeren, bliver en high-tech sekretær, der lægger data ind, monitorerer output og holder øje med fejl."

"I stedet for at åbne nye grænser for tanker og handlinger ender softwaren med at indsnævre vores fokus. Vi bytter sofistikerede, specialiserede talenter ud med rutineprægede og mindre karakteriske," skriver Nicholas Carr.

Her begår vi en kæmpe fejl

Mens der ikke er noget nyt i, at maskinerne overtager mere og mere af det menneskelige arbejde, er det nyt, at maskinerne nu også klarer det arbejde, som man tidligere mente, at kun den menneskelige hjerne kunne magte.

Nicholas Carr beskriver problemstillingen således:

"Da vi føler os overbeviste om, at maskinen vil fungere uden problemer og håndtere ethvert problem, der måtte vise sig, tillader vi, at vores opmærksomhed flakker. Vi mister engagementet i vores eget arbejde, og vores opmærksomhed på, hvad der sker omkring os, falmer."

"Vores tillid til softwaren bliver så stærk, at vi ignorerer eller ser bort fra andre informations-kilder, inklusive vores egne øjne og ører. Når en computer giver forkerte eller utilstrækkelige data, forbliver vi uvidende om fejlen."

Debatten om denne problemstilling kører allerede løs hos både The Atlantic og på Nicholas Carrs egen blog.

Læs hele essayet her og bidrag gerne med dine egne synspunkter i debatten på Computerworld.

Læs også:

10 år efter kontroversiel artikel: Er it stadig ligegyldigt?

Nicholas Carr: Internettet smadrer din koncentration

Læses lige nu
    Computerworld Events

    Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

    Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
    Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
    Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
    Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

    Sikkerhed | Klampenborg

    CISO Challenges 2026 - København

    Computerworld stiller skarpt på, hvordan du som CISO eller sikkerhedsansvarlig, kan leve op til alle krav om sikkerhed og risikostyring, gennem dialog og erfaringsudveksling. Gennem både korte oplæg og rundbordsdiskussioner, vil du blive klædt på...

    Digital transformation | Hellerup

    Roundtable: Stærkere data og skarpere beslutninger i en AI-æra

    AI kræver data, ledelsen kan stole på. Computerworld samler digitale ledere til en fortrolig rundbordssamtale om datagrundlag, beslutninger og skalering af AI i organisationen. Få konkrete erfaringer og nye perspektiver. Ansøg om en plads.

    Sikkerhed | Online

    Connected sikkerhed: Sådan samles netværk, drift og sikkerhed i én platform

    Få indblik i, hvordan NaaS og SOC samler netværk og sikkerhed i én platform. Hør Semler Group dele erfaringer med hurtigere trusselsrespons, færre leverandører og mindre kompleks drift. Deltag og se, hvordan moderne sikkerhedsdrift skalerer i...

    Se alle vores events inden for it

    Navnenyt fra it-Danmark

    Pinksky har pr. 1. maj 2026 ansat Alexander Skou Henkel, 39 år,  som Rådgivende konsulent. Han skal især beskæftige sig med optimering af forretningsprocesser i Microsoft platformen. Han kommer fra en stilling som IT forretningskonsulent hos Evobis ApS. Han har tidligere beskæftiget sig med forretningsudvikling i Microsoft platformen. Nyt job
    Guardsix har pr. 1. maj 2026 ansat Louise Sara Baunsgaard som Global Marketing & Communications Director. Hun skal især beskæftige sig med at positionere virksomheden som et europæisk alternativ i en tid, hvor cybersikkerhed i høj grad handler om geopolitik. Hun kommer fra en stilling som Co-Founder og CMO hos Get BOB. Hun er uddannet Ba.ling.merc fra CBS og har desuden en Mini MBA i marketing. Hun har tidligere beskæftiget sig med marketing og kommunikation i ledende nordiske roller hos bl.a. Meta og Nets. Nyt job
    Pinksky ApS har pr. 1. maj 2026 ansat Dan Toft, 29 år,  som Rådgivende konsulent, Partner. Han skal især beskæftige sig med digitalisering med Microsoftplatformen. Han kommer fra en stilling som Microsoft 365 & SharePoint Specialist hos Evobis ApS. Han er uddannet datamatiker. Han har tidligere beskæftiget sig med Microsoft 365 og SharePoint udvikling. Nyt job

    Dan Toft

    Pinksky ApS

    Immeo har pr. 16. marts 2026 ansat Honey Arora som Senior Manager. Han kommer fra en stilling som Data Product Owner hos Centrica Energy. Nyt job

    Honey Arora

    Immeo