Amazons ansigtsgenkendelse identificerede ved en fejl 28 top-politikere som forbrydere

Ansigtsgenkendelses-teknologi fra Amazon har ved fejl udråbt en række amerikanske politikere som kriminelle, og det sår tvivl om teknologiens pålidelighed, lyder advarslen fra en amerikansk borgerrettighedsgruppe.

Amazons ansigtsgenkendelsesværktøj Rekognition har ved en fejl identificeret 28 medlemmer af den amerikanske kongres som forbrydere.

Det viser en test udført af den amerikanske borgerrettighedsgruppe ACLU, skriver nyhedsbureauet Reuters.

Borgerrettighedsgruppen oplyser til Reuters, at den har gennemført en test, hvor billeder af alle medlemmer af Senatet og Repræsentanternes Hus blev matchet op mod en database med 25.000 billeder af tidligere anholdte.

Her identificerede Amazons værktøj med 80 procents sikkerhed politikerne som tidligere kriminelle. Ifølge borgerrettighedsgruppen var der en overrepræsentation af afro-amerikanere og latinoer blandt de 28 politikere.

Derfor frygter ACLU, at Rekognition, som allerede bliver anvendt af politiet i de amerikanske stater Oregon og Florida, vil kunne få uretfærdige følger for blandt andet immigranter og afroamerikanere.

Læs også:AWS om nyt kunstig intelligens-tilbud: Iværksættere skal have adgang til samme våben-arsenal, som verdens største virksomheder

Kræver stop for salg til statslige kunder
Rekognition blev lanceret i 2016 og er et fotoidentifikationsværktøj, der primært henvender sig til webudviklere. Siden foråret har ACLU ført en kampagne, hvor den ønsker at presse Amazon til at stoppe med sælge Rekognition til statslige kunder.

Amazon oplyser til Reuters, at Rekognition normalt fungerer bedst, når værktøjet kombineres med et gennemsyn foretaget af et menneske.

Samtidig kritiserer Amazon de indstillinger, som ACLU har anvendt i forsøget,.

Borgerrettighedsgruppen brugte en indstilling, der identificerede folk som et match med bare 80 procents sikkerhed. Amazon oplyser, at virksomheden anbefaler at værktøjet indstilles til et niveau på 95 procents sikkerhed, når det skal bruges til at identificere mennesker.

Protester fra ansatte
For nylig har både ansatte hos Microsoft og Amazon sendt protestbreve til deres virksomheders ledelse, hvor de protesterer mod, at værktøjer som Rekognition bliver solgt til politi- og immigrationsmyndigheder.

I brevet skriver Amazons ansatte blandt andet, at de frygter at teknologien kan blive misbrugt af myndighederne.

“Vi oplever en historisk militarisering af af politistyrker, en klapjagt på sorte aktivister og et voksende føderal grænsepoliti, som i øjeblikket er i færd med at bryde menneskerettighederne,” står der i brevet, som blev sendt til Amazons stifter og administrerende direktør Jeff Bezos.

Læs mere om det her : Microsoft- og Amazon-ansatte i åben protest: Stop skrupelløs brug af ansigtsgenkendelse




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Kompetera A/S
Hardware, licenser, konsulentydelser

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Årets CIO 2020

Siden 2006 har vi hvert år kåret Årets CIO - en pris der kaster lys over det fantastiske arbejde, der bliver gjort rundt omkring i de danske organisationer for at høste det store forretnings-potentiale, der kan drives ud af it og digitalisering.

01. december 2020 | Læs mere


Customer Experience 2021 - fokus på CX-strategi og teknologi til at forankre kundeoplevelsen

De gode kundeoplevelser er altafgørende for virksomheden, og netop derfor er det nødvendigt at have fokus på CX-strategi og teknologi, der kan være med til at forbedre kundeoplevelsen endnu mere. Det kræver tid og ressourcer, men det gavner hele virksomheden på lang sigt.

03. december 2020 | Læs mere


Træf det rigtige cloud-valg: Hør om mulighederne med hybrid- og multi-cloud

Vi kan ikke komme udenom, at cloud-teknologien bare vokser og vokser. Den giver adgang til store fordele for din virksomhed, men det kræver at virksomheden træffer strategiske, arkitektoniske og teknologiske vælg. Få indblik i, hvordan ud kan få sikkerhed, release cycles og andet til at gå op i en højere enhed.

09. december 2020 | Læs mere





mest debatterede artikler

Premium
Millionvis af Android-apps har kurs mod din Windows-pc: Forstå hvad Microsofts ’Project Latte’ går ud på
Microsoft forsøger atter en gang at få Android-programmer til at fungere med Windows 10. Spørgsmålet bliver, om de nye bestræbelser vil åbne op for en kattelem eller en ladeport af nye apps til Windows 10 økosystemet.
Computerworld
Stein Bagger gør comeback i ny branche: "De lignede et mafiahold, førte sig frem som nyrige og plaprede løs om urealistiske drømme"
Stein Bagger har skiftet navn og fører sig nu frem i store biler i en helt ny branche, skriver en dansk avis.
CIO
Podcast: Her er seks gode råd om ledelse og digitalisering fra danske top-CIO'er
The Digital Edge: Vi har talt med 17 af Danmarks dygtigste digitale ledere - og samlet deres seks bedste råd om digitalisering og ledelse. Få alle rådene på 26 minutter i denne episode af podcasten The Digital Edge.
Job & Karriere
Se Waoos forklaring: Derfor har selskabet fyret topchef Jørgen Stensgaard med omgående virkning
Waaos bestyrelse opsiger fiberselskabets topchef, Jørgen Stensgaard, der fratræder med omgående virkning. Se hele forklaringen fra Waao her.
White paper
Digital transformation tvinger organisationer til at nå deres digitale mål på nye måder
Allerede for to år siden hævdede nordiske virksomheder, at virksomhedernes konkurrenceevne og sågar overlevelse var afhængig af en vellykket digitalisering. De var klar, fulde af håb og på vej mod det digitale paradis. Hvordan gik det så? Hvor er de nu? For at finde ud af det, interviewede DigiPlex og Norstat 377 forretningsledere og IT-beslutningstagere fra organisationer fordelt over hele Danmark, Sverige og Norge om deres digitaliseringsfremskridt, om hvordan de har håndteret pandemien, og om hvordan IT understøtter eller står i vejen for indfrielsen af deres bæredygtighedsmål. DigiPlex kan nu dele en rapport med resultaterne fra undersøgelsen samt tanker om, hvordan man håndterer dem. De deler også nogle nyttige tips til, hvordan man skaber en pålidelig infrastruktur, der kan tilskynde til og understøtte ambitioner i den digitale økonomi. Læs mere i rapporten Nordic Data Center Trends 2020: Riding out the Storm.