Artikel top billede

(Foto: Fotis Fotopoulos)

Vi har brug for at åbne algoritmens sorte kasse

Klumme: Den nye forordning om digitale tjenester har til formål at indbygge gennemsigtighed i sådanne sorte kasser, og oprettelsen af det europæiske center for algoritmisk gennemsigtighed (ECAT) er et afgørende skridt i retning af dette mål.

Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.

Vores liv påvirkes hele tiden af digitale teknologier.

Nogle applikationer ændrer radikalt ved den måde, vi arbejder, forbruger og kommer i kontakt med hinanden på.

I de fleste tilfælde er de produkter og værktøjer, vi bruger, afhængige af sofistikerede og komplekse systemer, som de fleste af os ikke forstår.

Den udbredte brug af systemer baseret på uigennemsigtige teknologier kan skabe åbenlyse risici i vores samfund, og der er risiko for at blive afhængig af såkaldte "sorte kasser", nemlig algoritmiske systemer.

Selv om "sorte kasser" ofte blot kan filtrere komplekse oplysninger for os, kan de også give et forvrænget billede af virkeligheden, især i forbindelse med information, med ufuldstændige og farvede nyheder på sociale medier eller i nyhedsfeeds.

Sårbare grupper såsom børn kan blive udsat for skadeligt indhold. Forbrugere kan blive tilbudt forfalskede varer på onlinemarkedspladser.

Mangel på digitale færdigheder og digital forståelse, mangel på passende rammer for risikostyring og få værktøjer til at anmelde fejlinformation gør nogle af disse risici endnu mere komplekse.

Digitale platforme, navnlig platforme, der benyttes af millioner af brugere, kan ikke længere hævde, at de blot er formidlere af det indhold, de hoster.

Faktisk styres det indhold, der foreslås borgerne, af de "sorte kasser", som de udvikler.

Tiden er inde til at åbne disse "sorte kasser" og afsløre deres indhold.

Det er på tide, at digitale platforme påtager sig deres sociale ansvar og handler i overensstemmelse hermed.

Center for gennemsigtighed

Den nye forordning om digitale tjenester har til formål at indbygge gennemsigtighed i sådanne sorte kasser, og oprettelsen af det europæiske center for algoritmisk gennemsigtighed (ECAT) er et afgørende skridt i retning af dette mål.

ECAT vil huse et team af højt kvalificerede specialister inden for datavidenskab, kunstig intelligens og algoritmiske systemer, som vil støtte det europæiske mål om at sikre, at det, der er ulovligt offline, også er ulovligt online, og at store platforme og søgemaskiner påtager sig deres ansvar over for samfundet som helhed.

Det vil de gøre ved at undersøge, hvordan algoritmiske systemer opfører sig, hvilke risici de indebærer, og hvordan de kan evalueres.

De vil sikre, at kommissionen kan gøre brug af denne viden i praksis i sin rolle som reguleringsmyndighed. De vil hjælpe med at åbne de "sorte kasser".

Desuden har ECAT en ambition om at blive centrum for et dynamisk fællesskab af forskere og fagfolk, der vil bidrage til at kaste lys over de systemer, der styrer de mest populære digitale tjenester.

Lanceringen af ECAT, der fandt sted i Sevilla den 18. april 2023, er startskuddet på mobiliseringen af dette brede fællesskab.

For at beskytte børn indføres der også nye regler og værktøjer, idet man i første omgang gennem initiativer som for eksempel handlingsplanen for digital uddannelse vil skabe større bevidsthed om desinformation og andre onlinetrusler. ECAT er også del af denne indsats.

EU's tilgang er rodfæstet i vores overbevisning om, at teknologiske fremskridt aldrig bør finde sted på bekostning af vores demokratiske værdier.

De muligheder, som den digitale tidsalder tilbyder, skal gøres tilgængelige og forståelige for alle.

Med denne vision og de midler, vi udvikler, har EU gode forudsætninger for i den digitale tidsalder at blive førende på verdensplan og opbygge en mere modstandsdygtig og inklusiv digital fremtid for alle.

Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.

Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?

Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.