Det kan gå helt galt: Husk de blinde vinkler, når du satser på kunstig intelligens

Klumme: Kunstig intelligens er et centralt element i den digitalisering, som kun har fået mere fart under Corona-pandemien. Men man skal huske at belyse de blinde vinkler og være bevidst om sin datakvalitet, så man undgår en skævvridning af resultaterne. Det kræver fokus på AI-etik.

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

Mens Corona-pandemien fortsat hærger, digitaliseres private virksomheders arbejdsgange og services såvel som offentlige samfundsopgaver med syvmileskridt.

Centralt står udviklingen af AI-løsninger, altså kunstig intelligens.

AI kan understøtte vækst og effektivitet og sikre et stærkt fundament for beslutninger overalt i både den private of offentlige sektor.

Men det kræver, at vi er opmærksomme på kvaliteten og beskaffenheden af de data, som beslutningerne træffes på grundlag af.

Skæve data og skæv repræsentation kan give uetiske resultater
AI-løsninger er kun så stærke, som de data de fodres med. For at sikre, at AI giver hensigtsmæssige og retvisende resultater, kræver det nøje forberedelse.

Data er ikke nødvendigvis neutrale eller udtryk for en objektiv sandhed.

Forudsætningen for retvisende data er, at det datasæt, man handler ud fra, er retvisende. At det eksempelvis er repræsentativt for eksempelvis den kundegruppe eller det borgersegment, som man skal lave services for.

Har man ’skæve data’, som for eksempel kun afspejler et smalt segment af den samlede gruppe, vil det få betydning for beslutningerne og løsningerne inden for alt fra medicin og lægebehandling til teknologi og byplanlægning.

På samme måde vil algoritmen også afspejle sit menneskelige ophav, når den bliver trænet - så hvis man ikke har sikret en bredde i kompetencer og personlig samt kulturel baggrund, risikerer man bias.

Fire råd til en holdbar AI-etik

Hvis man vil godt i gang med at få styr på etikken i sine AI-løsninger, anbefaler jeg følgende:

  1. Uafhængige data. Algoritmer er ikke neutrale. De lærer fra data. Hvis data er suboptimerede og afspejler fordomme, diskriminering og uvidenhed, aflærer AI-systemet samme tankegang. En på forhånd fastlagt ramme for indsamling af data vil hjælpe til at undgå og derved balancere denne udfordring.

  2. Ledelsen skal tage ansvar. Ansvaret for AI-udviklingen er ikke noget, der bare kan overlades til en enkelt afdeling som eksempelvis it-afdelingen.

    For de fleste virksomheder kommer AI til at have så stor indflydelse, at man internt er nødt til at have styr på beslutningsprocesser og ansvar for beslutninger og eventuelle spørgsmål, der følger i kølvandet. Derfor må det overordnede ansvar for design og anvendelse ligge hos ledelsen.

  3. Transparens. skab transparens omkring projektet og processerne, og udform en plan, som adresserer forskellige scenarier. I virksomhedens løbende rapportering bør der være klarhed omkring igangværende AI-relaterede projekter.

    Med transparens får projektet og processerne øget forståelse, legitimitet og forankring i organisationen internt, men også i forhold til det eksterne samspil.

  4. Udpeg særlige AI-revisorer. AI-systemet og de etiske valg bag designet skal kunne tåle at blive undersøgt grundigt. Særlige AI-revisorer bør have som opgave at sikre, at systemet reagerer som det skal.

    Derfor er det vigtigt, at AI-revisorerne har forskellige kompetencer for at afdække anvendeligheden af data, algoritmer og modeller. De etiske, juridiske, antropologisk og de eventuelle samfundsmæssige konsekvenser ved brugen skal sikres.

    Samtidig skal revisorerne informere om de modeller, der ligger til grund for beslutningen og resultatet. Maskinlærende modeller er per definition komplekse og svære at forstå, hvis man ikke har gode redskaber til dette.

Etisk AI-udvikling er et fælles ansvar
Etik er netop ikke lovgivning – men grundlaget er på plads for at følge standarder, som er blevet gransket og debatteret af eksperter og virksomheder i fælleskab.

I 2019 udgav EU et sæt anbefalinger, ”Ethics Guidelines for Trustworthy AI”, som stadig opdateres med nye aspekter.

Lad os løbende holde dialogen varm om, hvordan disse anbefalinger bliver omsat lokalt, eksempelvis i danske offentlige løsninger og forbrugerrettede services i private virksomheder, således at disse både lovgivningsmæssigt og etisk lever op til vores krav og forventninger om repræsentation, ligebehandling, privatlivssfære og sikkerhed.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.




Computerworld
Biden sender skjult besked til kode-folket: "Hvis du læser dette, har vi brug for din hjælp”
En stående invitation er blevet opdaget i kildekoden på Det Hvide Hus' hjemmeside. Men den er kun til de eksperter, der selv kan finde den.
CIO
Podcast: Hos Viking Life-Saving Equipment er it gået fra at være backend til at være noget, som kunderne spørger aktivt efter
Podcast, The Digital Edge: Viking leverer en stadig større del af deres produkt som en tjeneste. Som en del af tjenesten tager Viking ansvar for sikkerheden ved at levere, dokumentere og vedligeholde det nødvendige sikkerhedsudstyr. Hør hvordan Henrik Balslev senior digital director hos Viking har løftet den opgave.
White paper
Ryk SAP-workloads i skyen – og tag alle de kendte fordele med
SAP-kunder verden over har gennem de seneste 15 år draget fordel af løsninger baseret på NetApps ONTAP-data management-platform. Herunder en mere sikker og stabil drift samt forenklet administration, hvilket er afgørende for at gennemføre projekter effektivt og for at reducere deres risikoprofil. Gennem de seneste år er det i høj grad også blevet muligt at rykke SAP-workloads i skyen, og det ønsker mange virksomheder rimeligvis at drage fordel af – men uden at sige farvel til mulighederne med NetApp ONTAP. I dette whitepaper stiller vi skarpt på mulighederne for at indarbejde NetApp Cloud Volumes ONTAP and Azure NetApp Files som del af en SAP-strategi baseret på Microsoft Azure.