Domstol slår fast: Ulovligt at bruge AI til at opdage socialt bedrageri

Den hollandske domstol har afgjort, at staten ikke må bruge kunstig intelligens til at stoppe socialt bedrageri. Det strider mod menneskerettighederne, lyder dommen.

Det hollandske regering skal øjeblikkeligt indstille arbejdet med et automatiseret overvågningssystem, der skal spotte socialt bedrageri.

Det har landets domstol netop afgjort, skriver den britiske avis The Guardian.

"Det er en klar sejr for dem, der med rette, er bekymret for den seriøse trussel digitale velfærdssytemer udgør for menneskerettigheder," siger Philip Alston, der er en del af FN's enhed for menneskerettigheder.

Læs også: Her er listen over alle Gladsaxe Kommunes mange GDPR-brud

Avisen mener, at dommen kommer til at få konsekvenser for andre europæiske velfærdsstater, hvor man kunne overveje at bruge en lignende model til at opdage socialt bedrageri.

Det hollandske system går under navnet SyRI, og udregner ved hjælp af en model, hvor stor sandsynligheden er for, at en borger begår bedrageri mod skat eller med sociale ydelser.

Her hjemme er Gladsaxe Kommune kommet under voldsom kritik efter, at man valgte at indføre et pointsystem, der skulle forsøge at opdage udsatte børn tidligere ved hjælp af blandt andet AI.

Sidste år valgte Gladsaxe Kommune dog at lukke for projektet igen.




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Tieto Denmark A/S
Udvikler, sælger og implementerer software til ESDH, CRM og portaler. Fokus på detailhandel, bygge- og anlæg, energi og finans.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Digital HowTo: Sikkerhedstrusler

Under corona-krisen er antallet af cybertrusler steget med 33 procent. Det er særligt phishing-angreb, som oversvømmer mange virksomheder i de her dage. Corona-virussen har skabt en ny mulighed for at lokke uopmærksomme internetbrugere til at klikke på inficerede links. Nogle virksomheder oplever at op mod halvdelen e-mails, der sendes til dem, kommer fra it-kriminelle.

19. august 2020 | Læs mere


Digital HowTo: ERP – få optimal udnyttelse af dine store mængder af værdifulde data i den digitale transformation

Få indblik i, hvordan alle virksomheder kan optimere deres kritiske processer og hvordan du realiserer det uforløste potentiale gennem denne procesoptimering. Du får indsigt i forretnings-processer, digital værdiskabelse og teknologi, der har hjulpet mange virksomheder på vej med deres digitale transformation.

20. august 2020 | Læs mere


Digital HowTo: Fremtidens It service management - optimer dit setup med de nyeste teknologier

Det er vigtigere end nogensinde at have styr på kerneopgaverne i virksomhedens it-drift. Fra monitorering af systemerne til udrulning af applikationer, håndtering af service desken og alle udfordringerne med it-sikkerheden. Kom og bliv klogere på mulighederne for automatisering og optimering med ITSM og den nyeste robotteknologi.

21. august 2020 | Læs mere






Premium
Queue-it har håndteret en milliard brugere den seneste måned: "Det er en rimelig vild stigning - men platformen har på intet tidspunkt vaklet"
Aldrig før har danske Queue-it skulle håndtere så mange brugere i selskabet virtuelle køsystem. Men platformen har ikke vaklet på noget tidspunkt, fortæller medstifter Camilla Ley Valentin. Se hvordan selskabet har klaret den eksplosive tilgang af brugere.
Computerworld
YouSee lancerer ny streamingtjeneste i Danmark
Efter sommerferien går YouSee i luften med et nyt streamingtilbud til danskerne, der beskrives som et af verdens mest streamende folkefærd.
CIO
Torben Fabrin og Arla måtte på få dage omstille hele deres produktion da coronaen ramte
Da coronaen ramte verden måtte mejerigiganten Arla på få dage omstille sin produktion. Samtidig voksede salget massivt til supermarkeder mens institutioner og restauranter gik næsten i stå. Hør hvordan Arla kom gennem krisen ved blandt andet være klar med realtime analytics.
Job & Karriere
På jagt efter et it-job i Jylland? Her er 10 stillinger fra Aabenraa til Aalborg, der ledige netop nu
Vi har fundet en række spændende stillinger til dig, der jagter et it-job. Her kan du vælge og vrage mellem ledige stillinger lige fra Aabenraa til Aalborg.
White paper
Få arkitekturen på plads uden omfattende specialtilpasninger eller kodefærdigheder
I dette whitepaper får du en indsigt i KMDs WorkZone informationsplatform til private og offentlige virksomheder. Med WorkZone kan du modellere din specialiserede forretningsunderstøttelse entitet for entitet, opgave for opgave, proces for proces, så informationsarkitekturen flugter meget præcist med krav og ønsker. Og fordi KMD WorkZone er baseret på standardkomponenter og bliver driftet af KMD, er der altid styr på sikkerhed, governance og compliance. Dette whitepaper beskriver, hvordan KMD WorkZone fungerer som navet i en samlet informationsarkitektur på tværs af systemlandskabet og de enkelte fagløsninger. KMD WorkZone til understøttelse af eksempelvis Case Management, Records Management, Content Management, Contract Lifecycle Management og en række andre datadiscipliner uden behov for omfattende analyse, modellering eller konfigurationsprojekter.