Amazons ansigtsgenkendelsesværktøj Rekognition har ved en fejl identificeret 28 medlemmer af den amerikanske kongres som forbrydere.
Det viser en test udført af den amerikanske borgerrettighedsgruppe ACLU, skriver nyhedsbureauet Reuters.
Borgerrettighedsgruppen oplyser til Reuters, at den har gennemført en test, hvor billeder af alle medlemmer af Senatet og Repræsentanternes Hus blev matchet op mod en database med 25.000 billeder af tidligere anholdte.
Her identificerede Amazons værktøj med 80 procents sikkerhed politikerne som tidligere kriminelle. Ifølge borgerrettighedsgruppen var der en overrepræsentation af afro-amerikanere og latinoer blandt de 28 politikere.
Derfor frygter ACLU, at Rekognition, som allerede bliver anvendt af politiet i de amerikanske stater Oregon og Florida, vil kunne få uretfærdige følger for blandt andet immigranter og afroamerikanere.
Kræver stop for salg til statslige kunder
Rekognition blev lanceret i 2016 og er et fotoidentifikationsværktøj, der primært henvender sig til webudviklere. Siden foråret har ACLU ført en kampagne, hvor den ønsker at presse Amazon til at stoppe med sælge Rekognition til statslige kunder.
Amazon oplyser til Reuters, at Rekognition normalt fungerer bedst, når værktøjet kombineres med et gennemsyn foretaget af et menneske.
Samtidig kritiserer Amazon de indstillinger, som ACLU har anvendt i forsøget,.
Borgerrettighedsgruppen brugte en indstilling, der identificerede folk som et match med bare 80 procents sikkerhed. Amazon oplyser, at virksomheden anbefaler at værktøjet indstilles til et niveau på 95 procents sikkerhed, når det skal bruges til at identificere mennesker.
Protester fra ansatte
For nylig har både ansatte hos Microsoft og Amazon sendt protestbreve til deres virksomheders ledelse, hvor de protesterer mod, at værktøjer som Rekognition bliver solgt til politi- og immigrationsmyndigheder.
I brevet skriver Amazons ansatte blandt andet, at de frygter at teknologien kan blive misbrugt af myndighederne.
“Vi oplever en historisk militarisering af af politistyrker, en klapjagt på sorte aktivister og et voksende føderal grænsepoliti, som i øjeblikket er i færd med at bryde menneskerettighederne,” står der i brevet, som blev sendt til Amazons stifter og administrerende direktør Jeff Bezos.
Læs mere om det her : Microsoft- og Amazon-ansatte i åben protest: Stop skrupelløs brug af ansigtsgenkendelse
