Det kan gå helt galt: Husk de blinde vinkler, når du satser på kunstig intelligens

Annonceindlæg fra Trustworks

Beskyt din organisation og styrk jeres cybersikkerhed med NIS2

NIS2 skal forbedre cybersikkerheden i EU ved at stille krav til beskyttelsen af digitale tjenester og produkter, som har samfundsmæssig betydning.

19. marts 2024 | Læs mere

Pernille Hertel

Nordisk direktør for Customer Advisory, SAS Institute

Pernille Hertel er ansvarlig for SAS Institute’s nordiske rådgiverteam på over 70 eksperter, som assisterer kunderne med at skabe værdi af deres investeringer i data-analytiske løsninger og kunstig intelligens og med at forme den langsigtede teknologi-strategi.

Hun har fokus på temaer som data intelligence og AI samt diversitet og inklusion i it-virksomheder såvel som it-løsninger.

Læs mere

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

Mens Corona-pandemien fortsat hærger, digitaliseres private virksomheders arbejdsgange og services såvel som offentlige samfundsopgaver med syvmileskridt.

Centralt står udviklingen af AI-løsninger, altså kunstig intelligens.

AI kan understøtte vækst og effektivitet og sikre et stærkt fundament for beslutninger overalt i både den private of offentlige sektor.

Men det kræver, at vi er opmærksomme på kvaliteten og beskaffenheden af de data, som beslutningerne træffes på grundlag af.

Skæve data og skæv repræsentation kan give uetiske resultater

AI-løsninger er kun så stærke, som de data de fodres med. For at sikre, at AI giver hensigtsmæssige og retvisende resultater, kræver det nøje forberedelse.

Data er ikke nødvendigvis neutrale eller udtryk for en objektiv sandhed.

Forudsætningen for retvisende data er, at det datasæt, man handler ud fra, er retvisende. At det eksempelvis er repræsentativt for eksempelvis den kundegruppe eller det borgersegment, som man skal lave services for.

Har man ’skæve data’, som for eksempel kun afspejler et smalt segment af den samlede gruppe, vil det få betydning for beslutningerne og løsningerne inden for alt fra medicin og lægebehandling til teknologi og byplanlægning.

På samme måde vil algoritmen også afspejle sit menneskelige ophav, når den bliver trænet - så hvis man ikke har sikret en bredde i kompetencer og personlig samt kulturel baggrund, risikerer man bias.

Fire råd til en holdbar AI-etik

Hvis man vil godt i gang med at få styr på etikken i sine AI-løsninger, anbefaler jeg følgende:

1. Uafhængige data. Algoritmer er ikke neutrale. De lærer fra data. Hvis data er suboptimerede og afspejler fordomme, diskriminering og uvidenhed, aflærer AI-systemet samme tankegang. En på forhånd fastlagt ramme for indsamling af data vil hjælpe til at undgå og derved balancere denne udfordring.

2. Ledelsen skal tage ansvar. Ansvaret for AI-udviklingen er ikke noget, der bare kan overlades til en enkelt afdeling som eksempelvis it-afdelingen.

   For de fleste virksomheder kommer AI til at have så stor indflydelse, at man internt er nødt til at have styr på beslutningsprocesser og ansvar for beslutninger og eventuelle spørgsmål, der følger i kølvandet. Derfor må det overordnede ansvar for design og anvendelse ligge hos ledelsen.

3. Transparens. skab transparens omkring projektet og processerne, og udform en plan, som adresserer forskellige scenarier. I virksomhedens løbende rapportering bør der være klarhed omkring igangværende AI-relaterede projekter.

   Med transparens får projektet og processerne øget forståelse, legitimitet og forankring i organisationen internt, men også i forhold til det eksterne samspil.

4. Udpeg særlige AI-revisorer. AI-systemet og de etiske valg bag designet skal kunne tåle at blive undersøgt grundigt. Særlige AI-revisorer bør have som opgave at sikre, at systemet reagerer som det skal.

   Derfor er det vigtigt, at AI-revisorerne har forskellige kompetencer for at afdække anvendeligheden af data, algoritmer og modeller. De etiske, juridiske, antropologisk og de eventuelle samfundsmæssige konsekvenser ved brugen skal sikres.

   Samtidig skal revisorerne informere om de modeller, der ligger til grund for beslutningen og resultatet. Maskinlærende modeller er per definition komplekse og svære at forstå, hvis man ikke har gode redskaber til dette.

I 2019 udgav EU et sæt anbefalinger, ”Ethics Guidelines for Trustworthy AI”, som stadig opdateres med nye aspekter.

Lad os løbende holde dialogen varm om, hvordan disse anbefalinger bliver omsat lokalt, eksempelvis i danske offentlige løsninger og forbrugerrettede services i private virksomheder, således at disse både lovgivningsmæssigt og etisk lever op til vores krav og forventninger om repræsentation, ligebehandling, privatlivssfære og sikkerhed.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.