Kæmpe øretæve til algoritmer bag ansigtsgenkendelse: Mange systemer fejlidentificerer farvede mennesker - især farvede kvinder

En splinterny stor amerikansk undersøgelse af algoritmer fra hele verden til ansigtsgendelse er en syngende lussing til teknologien. Mange af systemerne er langt bedre til at identificere hvide mennesker end farvede og asiater.

Artikel top billede

Ansigtsgenkendelse er efterhånden totalt mainstream.

Teknologien findes på snart sagt enhver nyere smartphone, og Ifølge analysehuset Gartner er teknologien nu så moden, at betaling ved hjælp af ansigtsgenkendelse bliver en af de vigtigste teknologiske tendenser i 2020.

Kina er first mover, men tendensen vil brede sig i resten af verden på ryggen af Apple Face ID og Apple Pay, mener Gartner.

Alvorlige problemer

Nu viser en splinterny undersøgelse foretaget af det amerikanske standardiseringsinstitut NIST, at der er alvorlige problemer med mange af algoritmerne bag teknologien, som viser sig at være langt bedre til at identificere hvide mennesker end farvede og asiater. Det skriver Reuters.

Fejllæsningen af ansigter, der sidder på farvede eller asiater blev at de testede systemer fejllæst mellem 10 og 100 gange oftere end hvide i en såkaldt one-to-one-databasesøgning.

Og der er tale om en meget omfattende undersøgelse. NIST testede 189 algoritmer fra 99 virksomheder. Dog ikke fra eksempelvis Amazon, som ikke afleverede nogle algoritmer til undersøgelse.

Reuters skriver, at algoritmer fra eksempelvis det kinesiske startup-firma inden for kunstig intelligens SenseTime, der er værdisat til 7,5 milliarder dollars - næsten 51 milliarder kroner - havde en høj fejlrate på alle søgninger.

En ud af ti gange resulterede det i en falsk positiv, når softwaren blev brugt til at undersøge foto af somaliske mænd.

Algoritmer fra Microsoft producerede nogle gange næsten ti gange flere falske positive for farvede kvinder end farvede mænd under såkaldte en-til-mange-test.

Til gengæld var der kun få fejl, når softwaren undersøgte foto af farvede og hvide mænd.

Resultaterne af undersøgelsen fik formanden for Homeland Security-komitteen i Repræsentanternes Hus, Benni Thompson, til at sige, at resultaterne er chokerende.

Bias er værre, end han havde frygtet, og det på et tidspunkt, hvor de amerikanske toldmyndigheder er ved at indføre ansigtsgenkendelse ved grænserne. Den beslutning må genovervejes, mener han.

Annonce

Semler IT

IT Operations Specialist til Semler IT

Københavnsområdet

Forsvarsministeriets Materiel- og Indkøbsstyrelse

Analytiker til Security Operations Center ved Cyberdivisionen

Københavnsområdet

HusCompagniet A/S

Senior data engineer

Københavnsområdet

Annonceindlæg fra Computerworld

Cyber Security Festival 2026:

Årets program sætter fokus på cybersikkerhed som samfundssikkerhed

Navnenyt fra it-Danmark

Elbek & Vejrup A/S har pr. 1. august 2026 ansat Nathalie Kajberg Knudsen som Supportkonsulent i Evita/Forsyning. Hun skal især beskæftige sig med support af Evita/Forsyning samt bidrage til videreudviklingen af supportsetup på Evita og Appia. Hun kommer fra en stilling som support indenfor Kundeadministration og Afregning hos KMD Easy Energy. Hun har tidligere beskæftiget sig med kørselskoordinering og kørselsledelse hos FKS Slamson og Godik. Nyt job

Nathalie Kajberg Knudsen

Elbek & Vejrup A/S

Netip A/S har pr. 1. september 2026 ansat Michelle Sørensen som Operation Coordinator ved netIP's kontor i Hernng. Hun kommer fra en stilling som Koordinator hos Norlys koncernen. Nyt job

Michelle Sørensen

Netip A/S

Arctic Wolf Networks har pr. 3. august 2026 ansat Johnny Krogsboll som Head of Sales Engineering for Norden.Med base i Stockholm får han ansvaret for Arctic Wolfs samlede Sales Engineering-organisation i den nordiske region.<br /><br />Johnny Krogsboll skal være med til at udbygge Arctic Wolfs tilstedeværelse i Norden og hjælpe virksomheder og organisationer med at stå stærkere over for et stadig mere komplekst cybertrusselsbillede. Det skal blandt andet ske i tæt samarbejde med Arctic Wolfs vigtigste kanalpartnere i regionen.<br /><br />Gennem sin karriere har Johnny Krogsboll arbejdet med og rådgivet virksomheder hos blandt andre Hewlett-Packard, Trend Micro og Palo Alto Networks med fokus på at skabe konkret værdi af deres teknologiinvesteringer. Nyt job

Johnny Krogsboll

Arctic Wolf Networks

Netip A/S har pr. 1. november 2026 ansat Berit Vognsen som Contract Manager ved netIP's kontor i Thisted. Hun skal især beskæftige sig med Kundkontrakter og afregning. Hun kommer fra en stilling som Project Sourcing Expert hos Cimbria. Nyt job

Berit Vognsen

Netip A/S