Kæmpe øretæve til algoritmer bag ansigtsgenkendelse: Mange systemer fejlidentificerer farvede mennesker - især farvede kvinder

En splinterny stor amerikansk undersøgelse af algoritmer fra hele verden til ansigtsgendelse er en syngende lussing til teknologien. Mange af systemerne er langt bedre til at identificere hvide mennesker end farvede og asiater.

Ansigtsgenkendelse er efterhånden totalt mainstream.

Teknologien findes på snart sagt enhver nyere smartphone, og Ifølge analysehuset Gartner er teknologien nu så moden, at betaling ved hjælp af ansigtsgenkendelse bliver en af de vigtigste teknologiske tendenser i 2020.

Kina er first mover, men tendensen vil brede sig i resten af verden på ryggen af Apple Face ID og Apple Pay, mener Gartner.

Alvorlige problemer
Nu viser en splinterny undersøgelse foretaget af det amerikanske standardiseringsinstitut NIST, at der er alvorlige problemer med mange af algoritmerne bag teknologien, som viser sig at være langt bedre til at identificere hvide mennesker end farvede og asiater. Det skriver Reuters.

Fejllæsningen af ansigter, der sidder på farvede eller asiater blev at de testede systemer fejllæst mellem 10 og 100 gange oftere end hvide i en såkaldt one-to-one-databasesøgning.

Og der er tale om en meget omfattende undersøgelse. NIST testede 189 algoritmer fra 99 virksomheder. Dog ikke fra eksempelvis Amazon, som ikke afleverede nogle algoritmer til undersøgelse.

Reuters skriver, at algoritmer fra eksempelvis det kinesiske startup-firma inden for kunstig intelligens SenseTime, der er værdisat til 7,5 milliarder dollars - næsten 51 milliarder kroner - havde en høj fejlrate på alle søgninger.

En ud af ti gange resulterede det i en falsk positiv, når softwaren blev brugt til at undersøge foto af somaliske mænd.

Algoritmer fra Microsoft producerede nogle gange næsten ti gange flere falske positive for farvede kvinder end farvede mænd under såkaldte en-til-mange-test.

Til gengæld var der kun få fejl, når softwaren undersøgte foto af farvede og hvide mænd.

Resultaterne af undersøgelsen fik formanden for Homeland Security-komitteen i Repræsentanternes Hus, Benni Thompson, til at sige, at resultaterne er chokerende.

Bias er værre, end han havde frygtet, og det på et tidspunkt, hvor de amerikanske toldmyndigheder er ved at indføre ansigtsgenkendelse ved grænserne. Den beslutning må genovervejes, mener han.




Premium
Michael Meister fik et tilbud, han ikke kunne sige nej til: Her er hans plan som ny topchef for Cibicom
Interview:Michael Meister forlader snart IT Relation til fordel for rollen som topchef i danske Cibicom, hvor han skal være med til at sætte fart på væksten. Se hans plan for selskabet her.
Computerworld
Nokia tog afsked med tusindvis af ansatte efter kæmpe nedtur: Sådan går det for dem i dag
Mere end 21.000 forlod Nokia under selskabets nedtur, som også ramte hårdt i Danmark. Nu har forskere undersøgt, hvordan det er gået for de tidligere Nokia-folk.
CIO
Podcast: Hos Viking Life-Saving Equipment er it gået fra at være backend til at være noget, som kunderne spørger aktivt efter
Podcast, The Digital Edge: Viking leverer en stadig større del af deres produkt som en tjeneste. Som en del af tjenesten tager Viking ansvar for sikkerheden ved at levere, dokumentere og vedligeholde det nødvendige sikkerhedsudstyr. Hør hvordan Henrik Balslev senior digital director hos Viking har løftet den opgave.
White paper
Fri medarbejdermobilitet - med digital bodyguard
Om at gå fra adgangsstyring på personniveau til adgangsstyring på desktopniveau. I takt med at flere og flere medarbejdere arbejder remote og logger på jeres systemer og netværk uden for virksomhedens sikkerhedsværn, risikerer de at efterlade døren til forretningen på klem. Dermed bliver endpoints som pc’ere, Mac’s og servere et oplagt mål for hackere, som vil ind i virksomhedens infrastruktur. I blandt sker det også, at medarbejdere udnytter deres privilegerede adgangsrettigheder til skadelige formål. Det er derfor mere aktuelt end nogensinde at rette opmærksomheden mod jeres endpoints og de rettigheder, der ligger her.