Domstol slår fast: Ulovligt at bruge AI til at opdage socialt bedrageri

Den hollandske domstol har afgjort, at staten ikke må bruge kunstig intelligens til at stoppe socialt bedrageri. Det strider mod menneskerettighederne, lyder dommen.

Artikel top billede

Det hollandske regering skal øjeblikkeligt indstille arbejdet med et automatiseret overvågningssystem, der skal spotte socialt bedrageri.

Det har landets domstol netop afgjort, skriver den britiske avis The Guardian.

"Det er en klar sejr for dem, der med rette, er bekymret for den seriøse trussel digitale velfærdssytemer udgør for menneskerettigheder," siger Philip Alston, der er en del af FN's enhed for menneskerettigheder.

Læs også: Her er listen over alle Gladsaxe Kommunes mange GDPR-brud

Avisen mener, at dommen kommer til at få konsekvenser for andre europæiske velfærdsstater, hvor man kunne overveje at bruge en lignende model til at opdage socialt bedrageri.

Det hollandske system går under navnet SyRI, og udregner ved hjælp af en model, hvor stor sandsynligheden er for, at en borger begår bedrageri mod skat eller med sociale ydelser.

Her hjemme er Gladsaxe Kommune kommet under voldsom kritik efter, at man valgte at indføre et pointsystem, der skulle forsøge at opdage udsatte børn tidligere ved hjælp af blandt andet AI.

Sidste år valgte Gladsaxe Kommune dog at lukke for projektet igen.

Annonce

Event: Computerworld Summit 2027 - Aarhus

Digital transformation | Aarhus C

Styrk din digitale strategi med konkret brug af AI og ny teknologi. Mød 250 it-professionelle, få indsigter, løsninger og netværk på én dag. Computerworld Summit i København viser hvordan teknologi skaber forretningsværdi – her og nu.

25. maj 2027 | Gratis deltagelse

Navnenyt fra it-Danmark

Netip A/S har pr. 14. september 2026 ansat Andreas Thorø Møller som Systemkonsulent ved netIP's kontor i Aarhus. Han kommer fra en stilling som Endpoint Consultant hos Fellowmind Denmark A/S. Han er uddannet Datatekniker. Nyt job
Netip A/S har pr. 1. november 2026 ansat Brian Davidsen som Key Account Manager ved netIP's kontor i Aarhus. Han kommer fra en stilling som Solutions Sales Specialist hos Dustin. Nyt job

Brian Davidsen

Netip A/S

T-Systems har pr. 1. september 2026 ansat Mikael Falk som Business Development Director. Mikael skal især beskæftige sig med forretningsudvikling indenfor Manufacturing & Life Science og styrke T-Systems position med fokus på Cloud, AI og sikkerhed. Mikael kommer fra en stilling som Regional Business Development Director hos DXC Technology. Nyt job

Mikael Falk

T-Systems

IFS Danmark A/S har pr. 1. september 2026 ansat Gustav Olsen som Business Development Representative. Gustav skal især beskæftige sig med forretningsudvikling & identificering af muligheder med fokus på AI, automatisering og optimering af forretningsprocesser. Gustav kommer fra en stilling som Business Development Specialist hos SAP Danmark A/S. Gustav er uddannet Cand.merc Sales Management. Gustav har tidligere beskæftiget sig med forretningsudvikling og salgsstrategi inden for ERP-teknologi. Nyt job

Gustav Olsen

IFS Danmark A/S