Det kan gå helt galt: Husk de blinde vinkler, når du satser på kunstig intelligens

Klumme: Kunstig intelligens er et centralt element i den digitalisering, som kun har fået mere fart under Corona-pandemien. Men man skal huske at belyse de blinde vinkler og være bevidst om sin datakvalitet, så man undgår en skævvridning af resultaterne. Det kræver fokus på AI-etik.

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

Mens Corona-pandemien fortsat hærger, digitaliseres private virksomheders arbejdsgange og services såvel som offentlige samfundsopgaver med syvmileskridt.

Centralt står udviklingen af AI-løsninger, altså kunstig intelligens.

AI kan understøtte vækst og effektivitet og sikre et stærkt fundament for beslutninger overalt i både den private of offentlige sektor.

Men det kræver, at vi er opmærksomme på kvaliteten og beskaffenheden af de data, som beslutningerne træffes på grundlag af.

Skæve data og skæv repræsentation kan give uetiske resultater
AI-løsninger er kun så stærke, som de data de fodres med. For at sikre, at AI giver hensigtsmæssige og retvisende resultater, kræver det nøje forberedelse.

Data er ikke nødvendigvis neutrale eller udtryk for en objektiv sandhed.

Forudsætningen for retvisende data er, at det datasæt, man handler ud fra, er retvisende. At det eksempelvis er repræsentativt for eksempelvis den kundegruppe eller det borgersegment, som man skal lave services for.

Har man ’skæve data’, som for eksempel kun afspejler et smalt segment af den samlede gruppe, vil det få betydning for beslutningerne og løsningerne inden for alt fra medicin og lægebehandling til teknologi og byplanlægning.

På samme måde vil algoritmen også afspejle sit menneskelige ophav, når den bliver trænet - så hvis man ikke har sikret en bredde i kompetencer og personlig samt kulturel baggrund, risikerer man bias.

Fire råd til en holdbar AI-etik

Hvis man vil godt i gang med at få styr på etikken i sine AI-løsninger, anbefaler jeg følgende:

  1. Uafhængige data. Algoritmer er ikke neutrale. De lærer fra data. Hvis data er suboptimerede og afspejler fordomme, diskriminering og uvidenhed, aflærer AI-systemet samme tankegang. En på forhånd fastlagt ramme for indsamling af data vil hjælpe til at undgå og derved balancere denne udfordring.

  2. Ledelsen skal tage ansvar. Ansvaret for AI-udviklingen er ikke noget, der bare kan overlades til en enkelt afdeling som eksempelvis it-afdelingen.

    For de fleste virksomheder kommer AI til at have så stor indflydelse, at man internt er nødt til at have styr på beslutningsprocesser og ansvar for beslutninger og eventuelle spørgsmål, der følger i kølvandet. Derfor må det overordnede ansvar for design og anvendelse ligge hos ledelsen.

  3. Transparens. skab transparens omkring projektet og processerne, og udform en plan, som adresserer forskellige scenarier. I virksomhedens løbende rapportering bør der være klarhed omkring igangværende AI-relaterede projekter.

    Med transparens får projektet og processerne øget forståelse, legitimitet og forankring i organisationen internt, men også i forhold til det eksterne samspil.

  4. Udpeg særlige AI-revisorer. AI-systemet og de etiske valg bag designet skal kunne tåle at blive undersøgt grundigt. Særlige AI-revisorer bør have som opgave at sikre, at systemet reagerer som det skal.

    Derfor er det vigtigt, at AI-revisorerne har forskellige kompetencer for at afdække anvendeligheden af data, algoritmer og modeller. De etiske, juridiske, antropologisk og de eventuelle samfundsmæssige konsekvenser ved brugen skal sikres.

    Samtidig skal revisorerne informere om de modeller, der ligger til grund for beslutningen og resultatet. Maskinlærende modeller er per definition komplekse og svære at forstå, hvis man ikke har gode redskaber til dette.

Etisk AI-udvikling er et fælles ansvar
Etik er netop ikke lovgivning – men grundlaget er på plads for at følge standarder, som er blevet gransket og debatteret af eksperter og virksomheder i fælleskab.

I 2019 udgav EU et sæt anbefalinger, ”Ethics Guidelines for Trustworthy AI”, som stadig opdateres med nye aspekter.

Lad os løbende holde dialogen varm om, hvordan disse anbefalinger bliver omsat lokalt, eksempelvis i danske offentlige løsninger og forbrugerrettede services i private virksomheder, således at disse både lovgivningsmæssigt og etisk lever op til vores krav og forventninger om repræsentation, ligebehandling, privatlivssfære og sikkerhed.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.




Premium
Fremtiden har aldrig set mere usikker ud for Intel: Her er det, der kan redde – og dødsdømme chip-kæmpen
Computerviews: Intels nyslåede topchef Pat Gelsinger står overfor en stribe rigtig svære beslutninger. Hvis han ikke træder varsomt, vil chip-giganten sandsynligvis sygne hen.
Computerworld
Akut mangel på chip tvinger verdens største bil-producenter til at drosle ned for produktionen af biler
Flere af verdens største bil-producenter er tvunget til at drosle ned for produktionen på grund af mangel på chip, som de ikke kan få leveret.
CIO
Podcast: Hos Viking Life-Saving Equipment er it gået fra at være backend til at være noget, som kunderne spørger aktivt efter
Podcast, The Digital Edge: Viking leverer en stadig større del af deres produkt som en tjeneste. Som en del af tjenesten tager Viking ansvar for sikkerheden ved at levere, dokumentere og vedligeholde det nødvendige sikkerhedsudstyr. Hør hvordan Henrik Balslev senior digital director hos Viking har løftet den opgave.
Job & Karriere
Microsoft i kæmpe dansk satsning - åbner tre store datacentre i Danmark
Microsoft lancerer kæmpe satsning fra hovedkvarteret i Lyngby. Selskabet åbner tre store bæredygtige datacentre på Sjælland.
White paper
Sådan kan du arbejde effektivt uanset tid, sted og type af enhed
Hvad nu hvis dit arbejde, din information, dine processer og teknologien bag ved, var organiseret på en måde så det passede til din organisation – alt sammen guidet af en intelligent udgave af det digitale arbejdsrum? Det er visionen bag Atea og Citrix´s samarbejde med digital workspace – en smartere og mere effektiv måde at arbejde på. I dette whitetpaper kan du derfor læse om, hvordan du kan skabe et mere effektivt og brugervenligt arbejdsrum uanset tid, sted og enhed. En løsning der på en gang er både enkel og som sætter brugeren i centrum.