Artikel top billede

(Foto: Dan Jensen)

Husk nu dataetikken, når I tager AI, big data og IoT i brug

Klumme: De offentlige myndigheder i Danmark har fart på med brugen af AI, IoT og big data. Teknologierne rummer et betydeligt potentiale, men samtidig opstår en række dataetiske spørgsmål, som man skal forholde sig til.

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

AI ser ud til at blive en af de teknologier, som flest myndigheder vil tage i brug for første gang i løbet af de kommende tre år.

I den netop offentliggjorte rapport IT i Praksis, som Rambøll og Dansk IT udgiver hvert år, tilkendegiver 91procent af de adspurgte offentlige myndigheder på tværs af kommuner, regioner og stat, at de indenfor de næste tre år forventer at anvende AI.

Der er tale om et kraftigt løft fra de 41 procent, der svarer, at de anvender AI i dag.

Også anvendelse af IoT forventes at blive meget mere udbredt.

Her forventer 90 procentaf de adspurgte offentlige myndigheder, at de anvender IoT-løsninger indenfor de næste tre år. Brugen af big data og RPA stiger ligeledes markant i disse år.

Der er fantastiske potentialer i at anvende AI, IoT og big data i den offentlige sektor. Det kan sikre en bedre og hurtigere sagsbehandling.

Brugt rigtigt kan de styrke den enkelte borgers retssikkerhed. Det kan løfte kvaliteten af servicen overfor borgerne. Indsamling af data fra f.eks. sensorer i bygninger kan optimere driften.

Kræver omtanke

Med en øget anvendelse af de nævnte teknologiområder vil endnu flere data blive indsamlet, og endnu flere data vil blive sat i spil og sammenkørt.

Og det kræver omtanke. Omtanke hos dem, der udvikler AI-løsningerne, omtanke hos dem, der anvender outputtet og omtanke hos politikerne, der har det øverste ansvar for, at vi borgere bliver mødt af en service og med afgørelser, hvor dataetikken er tænkt ind fra starten.

Med den forventede hast i udviklingen i anvendelsen af f.eks. AI er det på tide, at dataetikken kommer højt på dagsordenen.

Nogle af de spørgsmål, der er vigtige at forholde sig til, er bl.a:

  • I hvilket omfang er der taget aktivt stilling til, om datakvaliteten er tilstrækkelig til, at man kan stole på de resultater, data viser?

  • Er der proportionalitet i anvendelsen data i forhold til formål?

  • Er der risiko for bias i data?

  • Er samkøring afgrænset til relevante data?

  • Kan resultatet af samkøring forklares?

  • Anvendes samkøringen til at forudsige bestemte personers eller persongruppers karakteristika, handlinger, adfærd eller lignende (herunder profilering og risikoscoring)?

  • Anvendes data til at skabe bagudrettet profilering f.eks. til brug for opklaring af kriminelle forhold, snyd og fejl eller lignende?

  • Anvendes der data i samkøringen, der er indsamlet i en hel anden sammenhæng til et helt andet formål?

Stil krav til ledelsen

Sidder man med ansvaret for data og udviklingen af AI-løsninger, skal man kende sin arbejdsplads’ dataetiske retningslinjer, og findes de ikke, må man kræve, at den relevante ledelse får dem udarbejdet.

Uden dem er der alt for stor risiko for, at vi borgere kan blive mødt af uforklarlige og måske endda urimelige afgørelser, og det kan sætte den ellers verdensrekordhøje tillid til den offentlige sektor på spil, hvis vi borgere oplever, at vores data ikke anvendes med omtanke.

Som kommune, region eller statslig myndighed skal man sikre, at brugen af data og AI sker på en ordentlig måde og med de nødvendige dataetiske overvejelser som omdrejningspunkt.

Man skal samtidig være bevidst om, at ansvaret for dette ikke bare hører hjemme hos den enkelte medarbejder, men i mindst lige så høj grad hos den øverste administrative og politiske ledelse.

Med de vækstrater, vi ser inden for AI, IoT og big data, bliver især den ledelsesmæssige stillingtagen og det ledelsesmæssige ansvar afgørende i de kommende år.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.




CIO
Sådan tager top-CIO Pernille Geneser livtag med 40 år gamle it-systemer i Stark Group med 10.000 medarbejdere