Vi har brug for at åbne algoritmens sorte kasse

Klumme: Den nye forordning om digitale tjenester har til formål at indbygge gennemsigtighed i sådanne sorte kasser, og oprettelsen af det europæiske center for algoritmisk gennemsigtighed (ECAT) er et afgørende skridt i retning af dette mål.

Artikel top billede

(Foto: Fotis Fotopoulos)

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

Vores liv påvirkes hele tiden af digitale teknologier.

Nogle applikationer ændrer radikalt ved den måde, vi arbejder, forbruger og kommer i kontakt med hinanden på.

I de fleste tilfælde er de produkter og værktøjer, vi bruger, afhængige af sofistikerede og komplekse systemer, som de fleste af os ikke forstår.

Den udbredte brug af systemer baseret på uigennemsigtige teknologier kan skabe åbenlyse risici i vores samfund, og der er risiko for at blive afhængig af såkaldte "sorte kasser", nemlig algoritmiske systemer.

Selv om "sorte kasser" ofte blot kan filtrere komplekse oplysninger for os, kan de også give et forvrænget billede af virkeligheden, især i forbindelse med information, med ufuldstændige og farvede nyheder på sociale medier eller i nyhedsfeeds.

Sårbare grupper såsom børn kan blive udsat for skadeligt indhold. Forbrugere kan blive tilbudt forfalskede varer på onlinemarkedspladser.

Mangel på digitale færdigheder og digital forståelse, mangel på passende rammer for risikostyring og få værktøjer til at anmelde fejlinformation gør nogle af disse risici endnu mere komplekse.

Digitale platforme, navnlig platforme, der benyttes af millioner af brugere, kan ikke længere hævde, at de blot er formidlere af det indhold, de hoster.

Faktisk styres det indhold, der foreslås borgerne, af de "sorte kasser", som de udvikler.

Tiden er inde til at åbne disse "sorte kasser" og afsløre deres indhold.

Det er på tide, at digitale platforme påtager sig deres sociale ansvar og handler i overensstemmelse hermed.

Center for gennemsigtighed

Den nye forordning om digitale tjenester har til formål at indbygge gennemsigtighed i sådanne sorte kasser, og oprettelsen af det europæiske center for algoritmisk gennemsigtighed (ECAT) er et afgørende skridt i retning af dette mål.

ECAT vil huse et team af højt kvalificerede specialister inden for datavidenskab, kunstig intelligens og algoritmiske systemer, som vil støtte det europæiske mål om at sikre, at det, der er ulovligt offline, også er ulovligt online, og at store platforme og søgemaskiner påtager sig deres ansvar over for samfundet som helhed.

Det vil de gøre ved at undersøge, hvordan algoritmiske systemer opfører sig, hvilke risici de indebærer, og hvordan de kan evalueres.

De vil sikre, at kommissionen kan gøre brug af denne viden i praksis i sin rolle som reguleringsmyndighed. De vil hjælpe med at åbne de "sorte kasser".

Desuden har ECAT en ambition om at blive centrum for et dynamisk fællesskab af forskere og fagfolk, der vil bidrage til at kaste lys over de systemer, der styrer de mest populære digitale tjenester.

Lanceringen af ECAT, der fandt sted i Sevilla den 18. april 2023, er startskuddet på mobiliseringen af dette brede fællesskab.

For at beskytte børn indføres der også nye regler og værktøjer, idet man i første omgang gennem initiativer som for eksempel handlingsplanen for digital uddannelse vil skabe større bevidsthed om desinformation og andre onlinetrusler. ECAT er også del af denne indsats.

EU's tilgang er rodfæstet i vores overbevisning om, at teknologiske fremskridt aldrig bør finde sted på bekostning af vores demokratiske værdier.

De muligheder, som den digitale tidsalder tilbyder, skal gøres tilgængelige og forståelige for alle.

Med denne vision og de midler, vi udvikler, har EU gode forudsætninger for i den digitale tidsalder at blive førende på verdensplan og opbygge en mere modstandsdygtig og inklusiv digital fremtid for alle.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.

Læses lige nu

    Annonce

    KMD A/S

    Project Manager

    Københavnsområdet

    Forsvarsministeriets Materiel- og Indkøbsstyrelse

    Analytiker til Security Operations Center ved Cyberdivisionen

    Københavnsområdet

    Annonceindlæg fra Jysk IT

    Sikkerhed skal være en del af driften

    Skal virksomheder stå stærkere mod angreb og kunne udvikle sig, skal sikkerhed, drift og forretning tænkes sammen. Det er tanken bag Jysk IT’s ambition om at skabe en “sikker fremtid” for kunderne.

    Navnenyt fra it-Danmark

    Netip A/S har pr. 1. november 2026 ansat Berit Vognsen som Contract Manager ved netIP's kontor i Thisted. Hun skal især beskæftige sig med Kundkontrakter og afregning. Hun kommer fra en stilling som Project Sourcing Expert hos Cimbria. Nyt job

    Berit Vognsen

    Netip A/S

    Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation, har pr. 1. september 2026 ansat Maria Juliane Friedrichsen, 47 år,  som Office Manager. Hun skal især beskæftige sig med at holde overblik og sikre, at alt på kontoret kører, som det skal. Hun kommer fra en stilling som Office Manager hos Kontorhotellet H2M. Hun er uddannet professionsbachelor i ernæring og sundhed og har en korrekturlæseruddannelse. Hun har tidligere beskæftiget sig med korrekturlæsning og den daglige drift af kontorer. Nyt job

    Maria Juliane Friedrichsen

    Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation,

    Arctic Wolfs Network har pr. 1. september 2026 ansat Victor Dohlmann som Sales Director for Nordics. Nyt job

    Victor Dohlmann

    Arctic Wolfs Network

    LCG har pr. 1. september 2026 ansat Thomas Wong, 47 år,  som Director of Cyber & Risk Advisory. Han skal især beskæftige sig med Ansvar for at udvikle LCG’s rådgivning inden for cybersikkerhed, cyberrisiko og GRC. Han kommer fra en stilling som VP of security hos Atea. Nyt job