Artikel top billede

Amazons ansigtsgenkendelse identificerede ved en fejl 28 top-politikere som forbrydere

Ansigtsgenkendelses-teknologi fra Amazon har ved fejl udråbt en række amerikanske politikere som kriminelle, og det sår tvivl om teknologiens pålidelighed, lyder advarslen fra en amerikansk borgerrettighedsgruppe.

Amazons ansigtsgenkendelsesværktøj Rekognition har ved en fejl identificeret 28 medlemmer af den amerikanske kongres som forbrydere.

Det viser en test udført af den amerikanske borgerrettighedsgruppe ACLU, skriver nyhedsbureauet Reuters.

Borgerrettighedsgruppen oplyser til Reuters, at den har gennemført en test, hvor billeder af alle medlemmer af Senatet og Repræsentanternes Hus blev matchet op mod en database med 25.000 billeder af tidligere anholdte.

Her identificerede Amazons værktøj med 80 procents sikkerhed politikerne som tidligere kriminelle. Ifølge borgerrettighedsgruppen var der en overrepræsentation af afro-amerikanere og latinoer blandt de 28 politikere.

Derfor frygter ACLU, at Rekognition, som allerede bliver anvendt af politiet i de amerikanske stater Oregon og Florida, vil kunne få uretfærdige følger for blandt andet immigranter og afroamerikanere.

Læs også:AWS om nyt kunstig intelligens-tilbud: Iværksættere skal have adgang til samme våben-arsenal, som verdens største virksomheder

Kræver stop for salg til statslige kunder

Rekognition blev lanceret i 2016 og er et fotoidentifikationsværktøj, der primært henvender sig til webudviklere. Siden foråret har ACLU ført en kampagne, hvor den ønsker at presse Amazon til at stoppe med sælge Rekognition til statslige kunder.

Amazon oplyser til Reuters, at Rekognition normalt fungerer bedst, når værktøjet kombineres med et gennemsyn foretaget af et menneske.

Samtidig kritiserer Amazon de indstillinger, som ACLU har anvendt i forsøget,.

Borgerrettighedsgruppen brugte en indstilling, der identificerede folk som et match med bare 80 procents sikkerhed. Amazon oplyser, at virksomheden anbefaler at værktøjet indstilles til et niveau på 95 procents sikkerhed, når det skal bruges til at identificere mennesker.

Protester fra ansatte

For nylig har både ansatte hos Microsoft og Amazon sendt protestbreve til deres virksomheders ledelse, hvor de protesterer mod, at værktøjer som Rekognition bliver solgt til politi- og immigrationsmyndigheder.

I brevet skriver Amazons ansatte blandt andet, at de frygter at teknologien kan blive misbrugt af myndighederne.

“Vi oplever en historisk militarisering af af politistyrker, en klapjagt på sorte aktivister og et voksende føderal grænsepoliti, som i øjeblikket er i færd med at bryde menneskerettighederne,” står der i brevet, som blev sendt til Amazons stifter og administrerende direktør Jeff Bezos.

Læs mere om det her : Microsoft- og Amazon-ansatte i åben protest: Stop skrupelløs brug af ansigtsgenkendelse




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Jobindex Media A/S
Salg af telemarketing og research for it-branchen, it-kurser og konferencer

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
NIS2 - Sådan forbereder du din virksomhed til den store dag med ny EU-lovgivning om cybersikkerhed

NIS2 er et nyt EU-direktiv, som pålægger medlemslandene at sikre, at udbydere af kritisk infrastruktur og tjenester har passende sikkerhedsforanstaltninger på plads til at styre cyberrisici og opretholde modstandsdygtighed i tilfælde af en hændelse. Du skal være klar fra dag et – ellers vanker der bøder.

26. september 2023 | Læs mere


Er der en vej uden om usikker, kostbar og kompleks clouddrift?

Få indsigt i konklusionerne fra en nylig, storstilet undersøgelse fra Computerworld og Veritas med svar fra mere end 100 danske IT-topchefer i detaljer om deres erfaringer med de seneste års bevægelse mod cloudbaserede platforme og services. Derudover får du bud på, hvordan man som virksomhed både høster fordelene ved øget clouddrift og et stigende antal leverandører. Vel at mærke samtidig med, at man får det overblik, som gør det muligt at drive infrastrukturen sikkert og effektivt.

05. oktober 2023 | Læs mere


OT-sikkerhed i produktionsmiljøer - hvor kommer truslerne fra og hvordan opnår I optimal modstandsdygtighed overfor cyberangreb?

Til trods for den intense fokus på cybersikkerhed og NIS2 er mange produktionsvirksomheder og organisationer stadig usikre på, hvad de konkret skal gøre for at sikre, at de lever op til direktivets nye skærpede krav, når det gælder risikostyring, dokumentation og indberetning samt kravene om at garantere sikkerheden igennem hele forsyningskæden – og det ansvar, der følger med.

10. oktober 2023 | Læs mere