Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Vi hører det fra tid til anden fra politikerne, når det er tid til demokratisk selvransagelse: Lovmaskineriet kører for hurtigt, de offentlige høringsfrister kortes ned, og antallet af hastebehandlede lovforslag sætter rekord. Nu er den gal igen.
Efter flere skudepisoder i København med unge svenske kriminelle, afleverede Rigspolitiet i august sin ønskeseddel til justitsminister Peter Hummelgaard (S). Øverst stod ønsket om at få teknologi til ansigtsgenkendelse.
Efter en hemmelig orientering hos ministeren indgik en række partier i huj og hast en aftale om at give politiet det nyt værktøj. Intet lovforslag. Ingen analyser. Ingen risikovurderinger.
Selv om aftalen klogeligt indeholder nogle begrænsninger, så mangler vi stadig at se justitsministeren præsentere en klar lovgivning om en teknologi, som kan få vidtrækkende konsekvenser for borgernes grundlæggende rettigheder.
Både IDA, Dommerforeningen og tænketanken Justitia har advaret om, at ansigtsgenkendelse er en ufærdig og potentielt skadelig teknologi, som blandt andet risikerer at lægge bånd på borgernes ytrings- og forsamlingsfrihed.
I lande, hvor teknologien er indført, er der flere skrækeksempler på, hvor galt det kan gå.
I Argentinas hovedstad Buenos Aires blev et omfattende system til ansigtskendelse sat på pause i 2020, da det kom frem, at 140 uskyldige personer fejlagtigt var blevet arresteret eller varetægtsfængslet, fordi de blev forvekslet med andre personer.
En dommerundersøgelse af de databaser, der ligger til grund for overvågningssystemet, afslørede data og billeder om millioner af indbyggere, selv om loven kun gav mulighed for at søge på eftersøgte.
Blandt de registrerede var oppositionspolitikere, journalister og menneskerettighedsaktivister.
Selvfølgelig er der forskel på Argentinas brug af teknologien i realtid og den begrænsede brug af ansigtsgenkendelse, som politiet har fået tildelt i Danmark, hvor den skal bruges til at analysere videooptagelser.
Men i den politiske aftale hedder det, at politiet ”i første omgang” kan bruge teknologien i efterforskningen af sager om alvorlig personfarlig kriminalitet som drab, grov vold og voldtægt. Underforstået at teknologien kan udbredes yderligere.
Men vi skal være yderst varsomme med at tage et så kraftfuldt værktøj i brug uden en grundig offentlig høring og debat.
Allerede nu har detailhandlen meldt sig under fanerne med ønske om at bruge teknologien mod butikstyve, selv om der er meget langt fra personfarlig kriminalitet til butikstyveri.
Det vil være en farlig vej at gå, og det får lynhurtigt karakter af et overvågningssamfund.
Både politiet og justitsministeren har i deres handlekraft glemt at orientere sig hos Datatilsynet, der nu af egen drift vil undersøge, om rammerne for at bruge ansigtsgenkendelse overhovedet lever op til reglerne.
I et brev til Rigspolitiet efterlyser Datatilsynet en konsekvensanalyse af at indføre teknologien, da ansigtsgenkendelse ”sandsynligvis vil indebære en høj risiko for fysiske personers rettigheder”.
EU har brugt flere år på at få vedtaget AI Act, der opstiller et værn mod de mest risikable typer af AI – herunder ansigtsgenkendelse.
Den forpligter myndigheder og virksomheder til at foretage risikoanalyser af nye AI-systemer, før de tages i brug, og vurdere dem i forhold til de fundamentale borgerrettigheder.
Teknologi til ansigtsgenkendelse betegnes som højrisiko, fordi det er så indgribende i det enkelte menneskes hverdag.
Den risikoanalyse er endnu ikke lagt frem. Danmark er godt nok ikke bundet af AI Act på grund af EU-retsforbeholdet, men gør klogt i at følge den.
Derfor efterlyser vi en meget tydelige grænser for, hvornår det ikke skal være muligt at benytte teknologien.
Desuden bør der være krav om en dommerkendelse, når politiet vil anvende ansigtsgenkendelse, og der skal etableres en uafhængig juridisk myndighed, der til enhver tid kan kontrollere politiet.
Alternativt kan regeringen følge eksemplet fra storbyer som Boston og San Francisco, som har forbudt ansigtsgenkendelse i realtid på offentlige steder.
På den måde kan politikerne gøre det klart, at de ikke vil foretage større indgreb i borgernes personlige frihed end allerhøjst nødvendigt.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
