Algoritmen bag Apples nye kreditkort-satsning, Apple Card, skal ifølge det amerikanske erhvervsmedie Bloomberg nu undersøges af de finansielle myndigheder i den amerikanske stat New York.
Det sker efter, at den danske tech-iværksætter og skaber af Ruby on Rails, David Heinemeier Hansson, i en række tweets henover weekenden har kritiseret den bagvedliggende algoritmen for at være kønsdiskriminerende.
David Heinemeier Hansson fortæller i sine tweets, at algoritmen har givet ham en kreditgrænse, der er 20 gange højere end hans kone, selv om de har fælles økonomi.
”Apple Card er et forbandet sexistisk program. Min kone og jeg indleverer fælles selvangivelse, bor i en stat, hvor der er fælleseje og har været gift gennem mange år. Alligevel mener Apples hemmelige algoritme, at jeg fortjener en 20 gange højere kreditgrænser, end hun gør,” skriver han i et af mange tweets, hvor han også konstaterer, at det ikke er muligt at appellere vurderingen
David Heinemeier Hansson har desuden fået opbakning fra ingen ringere end Apple-stifteren Steve Wozniak, der på Twitter oplyser, at han har haft en tilsvarende oplevelse.
Stave Wozniak fortæller på Twitter, at han har fået en 10 gange højere kreditgrænse end sin kone, selv om de også har fælles økonomi.
Læs også: Danske David Hansson skabte Ruby on Rails: Derfor blev det et globalt megahit
Finansmyndigheder vil undersøge algoritme
Appe lancerede den nye kreditkort satsning i foråret.
Der er tale om et digitalt kort, som kan anvendes med brugerens iPhone og Apple Watch, men som også ledsages af et fysisk og minimalistisk kort.
Kortet bliver af Apple markedsført under parolen "udviklet af Apple, ikke af en bank."
Den bagvedliggende kreditvurdering foretages dog af den amerikanske finanskæmpe Goldman Sachs, som Apple har lanceret kreditkortet i samarbejde med.
Som følge af kritikken meddeler finansmyndigheden i Goldman Sachs hjemstat, New York Department of Financial Services, nu ifølge Bloomberg, at myndigheden vil undersøge om, der har fundet kønsdiskrimination sted.
”Myndigheden vil gennemføre en undersøgelse af om loven i New York er blevet overtrådt, og den vil sikre, at alle forbrugere uanset køn bliver behandlet ens. Enhver algoritme, der med eller uden fortsæt, diskriminerer kvinder eller andre folk overtræder loven i New York,” lyder det ifølge Bloomberg fra en talsperson fra New York Departmen of Finansiel Services.
Goldman Sachs afviser dog, at der skulle finde diskrimination sted.
En talsperson fra selskabet oplyser til Bloomberg, at køn slet ikke indgår i kreditvurderingen.
Læs også: Apple springer ud som udbyder af bankløsninger: Mød Apple Card
Ændrede pludselig kreditvurdering
David Heinemeier Hansson hæfter sig dog ved, at hans kones kreditvurdering pludselig blev hævet efter, at sagen udviklede sig til en varm kartoffel for Apple og Goldman Sachs.
”Lige så snart, at det bliver en pr-sag, hævede de øjeblikkeligt hendes kreditvurderingen uden at kræve yderligere dokumentation,” siger han til Bloomberg og uddyber:
”Jeg tror ikke, at det skyldes, at der et sidder en person med onde hensigter og et ønske om at diskriminere. Men det er sagen uvedkommende. For hvordan kan vi vide, at der ikke problemer med machine-learning-algoritmer, når ingen kan oplyse, hvordan de er konstrueret,” siger han til det amerikanske medie.
Kendt for racerløb og open source
David Heinemeier Hansson er kendt for at have skabt det globale megahit Ruby on Rails, der et opensource framework til webudvikling, og i dag er han partner i den amerikanske software-virksomhed Basecamp.
”Hele årsagen til, at jeg var interesseret i Ruby on Rails, var, at jeg selv skulle bruge det til at bygge noget. Jeg byggede det, fordi jeg gerne ville have det,” fortalte han til Computerworld for tre år siden.
David Heinemeier Hansson kommer oprindeligt fra København, men i 2005 forlod han Danmark og i dag bor han i den amerikanske millionby Chicago.
Når han ikke beskæftiger sig med webudvikling er David Heinemeier Hansson desuden en erfaren racerkører, og han har adskillige gange deltager i det berømte franske 24 timers løb i Le Mans.
Læs også: Dansk top-programmør kører Le Mans: Derfor minder racerløb om programmering
