Artikel top billede

Domstol slår fast: Ulovligt at bruge AI til at opdage socialt bedrageri

Den hollandske domstol har afgjort, at staten ikke må bruge kunstig intelligens til at stoppe socialt bedrageri. Det strider mod menneskerettighederne, lyder dommen.

Det hollandske regering skal øjeblikkeligt indstille arbejdet med et automatiseret overvågningssystem, der skal spotte socialt bedrageri.

Det har landets domstol netop afgjort, skriver den britiske avis The Guardian.

"Det er en klar sejr for dem, der med rette, er bekymret for den seriøse trussel digitale velfærdssytemer udgør for menneskerettigheder," siger Philip Alston, der er en del af FN's enhed for menneskerettigheder.

Læs også: Her er listen over alle Gladsaxe Kommunes mange GDPR-brud

Avisen mener, at dommen kommer til at få konsekvenser for andre europæiske velfærdsstater, hvor man kunne overveje at bruge en lignende model til at opdage socialt bedrageri.

Det hollandske system går under navnet SyRI, og udregner ved hjælp af en model, hvor stor sandsynligheden er for, at en borger begår bedrageri mod skat eller med sociale ydelser.

Her hjemme er Gladsaxe Kommune kommet under voldsom kritik efter, at man valgte at indføre et pointsystem, der skulle forsøge at opdage udsatte børn tidligere ved hjælp af blandt andet AI.

Sidste år valgte Gladsaxe Kommune dog at lukke for projektet igen.




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Fiftytwo A/S
Konsulentydelser og branchespecifikke softwareløsninger til retail, e-Commerce, leasing og mediebranchen.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Bliv klar til AI Act: Det vil påvirke både din udvikling, drift og organisation

Fordelene ved at anvende kunstig intelligens bliver stadig mere udtalte, og både som virksomhed og myndighed er det i stigende grad uholdbart ikke at udforske mulighederne. Men der er også risici forbundet på den nye teknologi, og på dette formiddagsseminar ser vi på, hvordan verdens første regulatoriske kompleks – EUs kommende AI Act – adresserer behovet for en etisk, ansvarlig og kontrolleret anvendelse af AI.

20. august 2024 | Læs mere


Det Digitale Produktpas

Kom med og hør om, hvordan du kommer i gang med at sikre din virksomhed er klar til Det Digitale Produktpas. Vi sætter fokus på, hvordan du bliver klædt på til at få styr og struktur på dine data, samt hvilke krav du skal sætte til dine leverandører og andre i din værdikæde, for at sikre den nødvendige information er tilgængelig.

21. august 2024 | Læs mere


Cyber Security Summit 2024

På Cyber Security Summit får du indsigt i det aktuelle trusselslandskab, overblikket over de nyeste værktøjer og trends indenfor sikkerhedsløsninger, indsigt i de relevante rammeværktøjer og krav samt de bedste løsninger og værktøjer til at sikre effektiv drift og høj compliance.

27. august 2024 | Læs mere