Det stærkt kritiserede firma Clearview AI, som blandt andet er kendt for at have downloaded millioner af billeder fra sociale medier for at skabe en database til ansigtsgenkendelse, har nu indgået et forlig om at begrænse sit salg af teknologier inden for netop ansigtsgenkendelse.
Forliget blev indgået ved den føderale domstol i den amerikanske delstat Illinois mellem Clearview AI og flere nonprofitorganisationer – heriblandt American Civil Liberties Union (ACLU), og Mujeres Latinas en Acción.
Det skriver ZDNet.
Clearview AI har nu indvilliget i at stoppe salget af ansigtsgenkendelsesteknologi til private virksomheder og enkeltpersoner i USA. Forliget sker på baggrund af Illinois-loven Biometric Information Privacy Act (BIPA), som siden sin indførsel i 2008, har ført til flere forlig med tech-selskaber.
Selskabet har også indvilliget i at stoppe salg til delstaten Illinois’ offentlige myndigheder og lokale polititjenester i fem år, men vil fortsat sælge til offentlige kunder uden for delstaten.
Blokering af ansigter
Udover begrænsningen i salg gør forliget også, at Clearview AI nu skal have en såkaldt "opt-out-anmodningsformular" på sin hjemmeside, så borgere i delstaten Illinois kan uploade et billede af sig selv for at sikre, at deres ansigtsaftryk ikke bliver vist i Clearviews søgeresultater. Simpelthen en slags ’nej tak’-ordning for ansigtsgenkendelse.
Og ikke nok med det, men selskabet skal selv bruge 50.000 dollar – svarende til 352.000 kroner – på annoncer for at promovere denne fravalgsfunktion.
Clearview AI fik en del opmærksomhed tilbage i marts, da den Ukrainske regering begyndte at bruge selskabets teknologi mod russerne.
Formålet var blandt andet at kunne undersøge folk, når de ankom til checkpoints, afsløre russiske troppe i forklædning, bekæmpe misinformation og identificere døde, oplyste Lee Wolosky, rådgiver for Clearview ifølge Reuters.
EU er imod teknologien
Sidste år opfordrede EU-parlamentet medlemslandene til at forbyde eller indskrænke den form for ansigtsteknologi – og særligt med henblik på, at begrænse politiets brug af teknologien.
Argumenterne for forbuddet lød, at retshåndhævelse via kunstig intelligens udgør en række risici. Heriblandt uigennemsigtig beslutningstagen, diskrimination, indtrængen i privatlivet og besvær med at beskytte personoplysninger, fremgik det.
Det danske politi afviste i 2020 at have benyttet sig af Clearview AI.
Efterfølgende er det kommet frem, via data om prøveperioden, at NC3, der er Rigspolitiets Nationale Cyber Crime Center, har søgt i programmet op til 50 gange.
På trods af den nyfundne data afviser Rigspolitiet stadig at have benyttet programmet.
"Rigspolitiet kan fortsat afvise, at Rigspolitiet modtager varer og/eller tjenesteydelser fra Clearview Al og ikke på noget tidspunkt har været kunde hos virksomheden. Oplysningerne om, at vores medarbejdere skulle have foretaget mellem 11 og 50 søgninger i Clearviews system, kan vi ikke genkende," skrev Thomas Rudbeck, der er fungerende pressechef hos Rigspolitiet i en mail til Computerworld i september sidste år.
