Artikel top billede

Amazons ansigtsgenkendelse identificerede ved en fejl 28 top-politikere som forbrydere

Ansigtsgenkendelses-teknologi fra Amazon har ved fejl udråbt en række amerikanske politikere som kriminelle, og det sår tvivl om teknologiens pålidelighed, lyder advarslen fra en amerikansk borgerrettighedsgruppe.

Amazons ansigtsgenkendelsesværktøj Rekognition har ved en fejl identificeret 28 medlemmer af den amerikanske kongres som forbrydere.

Det viser en test udført af den amerikanske borgerrettighedsgruppe ACLU, skriver nyhedsbureauet Reuters.

Borgerrettighedsgruppen oplyser til Reuters, at den har gennemført en test, hvor billeder af alle medlemmer af Senatet og Repræsentanternes Hus blev matchet op mod en database med 25.000 billeder af tidligere anholdte.

Her identificerede Amazons værktøj med 80 procents sikkerhed politikerne som tidligere kriminelle. Ifølge borgerrettighedsgruppen var der en overrepræsentation af afro-amerikanere og latinoer blandt de 28 politikere.

Derfor frygter ACLU, at Rekognition, som allerede bliver anvendt af politiet i de amerikanske stater Oregon og Florida, vil kunne få uretfærdige følger for blandt andet immigranter og afroamerikanere.

Læs også:AWS om nyt kunstig intelligens-tilbud: Iværksættere skal have adgang til samme våben-arsenal, som verdens største virksomheder

Kræver stop for salg til statslige kunder

Rekognition blev lanceret i 2016 og er et fotoidentifikationsværktøj, der primært henvender sig til webudviklere. Siden foråret har ACLU ført en kampagne, hvor den ønsker at presse Amazon til at stoppe med sælge Rekognition til statslige kunder.

Amazon oplyser til Reuters, at Rekognition normalt fungerer bedst, når værktøjet kombineres med et gennemsyn foretaget af et menneske.

Samtidig kritiserer Amazon de indstillinger, som ACLU har anvendt i forsøget,.

Borgerrettighedsgruppen brugte en indstilling, der identificerede folk som et match med bare 80 procents sikkerhed. Amazon oplyser, at virksomheden anbefaler at værktøjet indstilles til et niveau på 95 procents sikkerhed, når det skal bruges til at identificere mennesker.

Protester fra ansatte

For nylig har både ansatte hos Microsoft og Amazon sendt protestbreve til deres virksomheders ledelse, hvor de protesterer mod, at værktøjer som Rekognition bliver solgt til politi- og immigrationsmyndigheder.

I brevet skriver Amazons ansatte blandt andet, at de frygter at teknologien kan blive misbrugt af myndighederne.

“Vi oplever en historisk militarisering af af politistyrker, en klapjagt på sorte aktivister og et voksende føderal grænsepoliti, som i øjeblikket er i færd med at bryde menneskerettighederne,” står der i brevet, som blev sendt til Amazons stifter og administrerende direktør Jeff Bezos.

Læs mere om det her : Microsoft- og Amazon-ansatte i åben protest: Stop skrupelløs brug af ansigtsgenkendelse




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Also A/S
Salg af serviceydelser inden for logistik, finansiering, fragt og levering, helhedsløsninger, digitale tjenester og individuelle it-løsninger.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Strategisk it-sikkerhedsdag – Identificer, beskyt og forsvar

Trusselsbilledet er rødglødende og it-sikkerhedslandskabet har aldrig været mere anspændt end nu. Flere organisationer end nogensinde før bliver som følge udsat for cyber-angreb, der er udført af professionelle og målrettede hackere Vi tager temperaturen på trusselslandskabet lige nu og giver dig overblikket over de nyeste trusler, de mest aktuelle tendenser og de bedste løsninger og værktøjer til at sikre effektiv drift og høj compliance.

23. august 2022 | Læs mere


Strategisk it-sikkerhedsdag – Identificer, beskyt og forsvar

Trusselsbilledet er rødglødende og it-sikkerhedslandskabet har aldrig været mere anspændt end nu. Flere organisationer end nogensinde før bliver som følge udsat for cyber-angreb, der er udført af professionelle og målrettede hackere Vi tager temperaturen på trusselslandskabet lige nu og giver dig overblikket over de nyeste trusler, de mest aktuelle tendenser og de bedste løsninger og værktøjer til at sikre effektiv drift og høj compliance.

25. august 2022 | Læs mere


CIO Trends 2022: Sådan arbejder de dygtigste CIOs med ledelse, organisation og strategi

Sparringspartner, forretningsudvikler, projektleder, evangelist, strateg og ikke mindst chef. CIO-rollen er under voldsom forandring – hvor især ledelses- og strategidelen får stadig større plads i de komplekse it-organisationer.

30. august 2022 | Læs mere