Domstol slår fast: Ulovligt at bruge AI til at opdage socialt bedrageri

Den hollandske domstol har afgjort, at staten ikke må bruge kunstig intelligens til at stoppe socialt bedrageri. Det strider mod menneskerettighederne, lyder dommen.

Artikel top billede

Det hollandske regering skal øjeblikkeligt indstille arbejdet med et automatiseret overvågningssystem, der skal spotte socialt bedrageri.

Det har landets domstol netop afgjort, skriver den britiske avis The Guardian.

"Det er en klar sejr for dem, der med rette, er bekymret for den seriøse trussel digitale velfærdssytemer udgør for menneskerettigheder," siger Philip Alston, der er en del af FN's enhed for menneskerettigheder.

Læs også: Her er listen over alle Gladsaxe Kommunes mange GDPR-brud

Avisen mener, at dommen kommer til at få konsekvenser for andre europæiske velfærdsstater, hvor man kunne overveje at bruge en lignende model til at opdage socialt bedrageri.

Det hollandske system går under navnet SyRI, og udregner ved hjælp af en model, hvor stor sandsynligheden er for, at en borger begår bedrageri mod skat eller med sociale ydelser.

Her hjemme er Gladsaxe Kommune kommet under voldsom kritik efter, at man valgte at indføre et pointsystem, der skulle forsøge at opdage udsatte børn tidligere ved hjælp af blandt andet AI.

Sidste år valgte Gladsaxe Kommune dog at lukke for projektet igen.

Annonce

Netcompany A/S

Erfaren Linux Operations Engineer

Nordjylland

Capgemini Danmark A/S

AI/Data Engineer

Københavnsområdet

Netcompany A/S

IT Consultant

Nordjylland

JP/Politikens Hus

Netværkstekniker

Københavnsområdet

Event: Computerworld Summit 2027 - København

Digital transformation | København

Styrk din digitale strategi med konkret brug af AI og ny teknologi. Mød 250 it-professionelle, få indsigter, løsninger og netværk på én dag. Computerworld Summit i København viser hvordan teknologi skaber forretningsværdi – her og nu.

20. maj 2027 | Gratis deltagelse

Navnenyt fra it-Danmark

T-Systems har pr. 11. november 2026 ansat Henrik Fugmann som Industry Lead, Public Sector. Henrik skal især beskæftige sig med forretningsudvikling indenfor den offentlige sektor med fokus på digital suverænitet, herunder cloud, AI og sikkerhed. Henrik kommer fra en stilling som Business Director hos DXC Technology. Nyt job

Henrik Fugmann

T-Systems

Fellowmind Denmark A/S har pr. 1. september 2026 ansat Morten Jakobi som Business Unit Director. Han skal især beskæftige sig med at samle og udvikle Fellowminds forretning inden for Managed Services, Cloud Infrastructure & Security. Han kommer fra en stilling som Chief Executive Officer hos Inventio.it A/S. Han har tidligere beskæftiget sig med Ledelse og udvikling af Managed Services, serviceforretninger og transformation i Norden og Benelux. Nyt job

Morten Jakobi

Fellowmind Denmark A/S

Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation, har pr. 1. september 2026 ansat Alfredo Paladino, 32 år,  som Account Manager for det danske marked. Han skal især beskæftige sig med salg af Iduras MitID- og signaturløsninger i Danmark. Han kommer fra en stilling som Head of Business Development hos Goodwings. Han er uddannet kandidat i e-business. Han har tidligere beskæftiget sig med at opbygge Goodwings' kommercielle funktion og lede et internationalt BDR-team på 12 personer. Nyt job

Alfredo Paladino

Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation,

Netip A/S har pr. 1. november 2026 ansat Jacob Vendelbo som Finance Business Partner ved netIP Aalborg. Han kommer fra en stilling som CFO hos SmartVan.dk. Nyt job

Jacob Vendelbo

Netip A/S