Dansk rigmand bag shitstorm mod Apple Card: Nu skal algoritmen undersøges

Den danske rigmand bag Ruby on Rails, David Heinemeier Hansson , anklager Apples nye store satsning Apple Card for at være sexistisk. Nu skal den bagvedliggende algoritme granskes af en amerikansk myndighed.

Algoritmen bag Apples nye kreditkort-satsning, Apple Card, skal ifølge det amerikanske erhvervsmedie Bloomberg nu undersøges af de finansielle myndigheder i den amerikanske stat New York.

Det sker efter, at den danske tech-iværksætter og skaber af Ruby on Rails, David Heinemeier Hansson, i en række tweets henover weekenden har kritiseret den bagvedliggende algoritmen for at være kønsdiskriminerende.

David Heinemeier Hansson fortæller i sine tweets, at algoritmen har givet ham en kreditgrænse, der er 20 gange højere end hans kone, selv om de har fælles økonomi.

”Apple Card er et forbandet sexistisk program. Min kone og jeg indleverer fælles selvangivelse, bor i en stat, hvor der er fælleseje og har været gift gennem mange år. Alligevel mener Apples hemmelige algoritme, at jeg fortjener en 20 gange højere kreditgrænser, end hun gør,” skriver han i et af mange tweets, hvor han også konstaterer, at det ikke er muligt at appellere vurderingen

David Heinemeier Hansson har desuden fået opbakning fra ingen ringere end Apple-stifteren Steve Wozniak, der på Twitter oplyser, at han har haft en tilsvarende oplevelse.

Stave Wozniak fortæller på Twitter, at han har fået en 10 gange højere kreditgrænse end sin kone, selv om de også har fælles økonomi.

Læs også: Danske David Hansson skabte Ruby on Rails: Derfor blev det et globalt megahit

Finansmyndigheder vil undersøge algoritme
Appe lancerede den nye kreditkort satsning i foråret.

Der er tale om et digitalt kort, som kan anvendes med brugerens iPhone og Apple Watch, men som også ledsages af et fysisk og minimalistisk kort.

Kortet bliver af Apple markedsført under parolen "udviklet af Apple, ikke af en bank."

Den bagvedliggende kreditvurdering foretages dog af den amerikanske finanskæmpe Goldman Sachs, som Apple har lanceret kreditkortet i samarbejde med.

Som følge af kritikken meddeler finansmyndigheden i Goldman Sachs hjemstat, New York Department of Financial Services, nu ifølge Bloomberg, at myndigheden vil undersøge om, der har fundet kønsdiskrimination sted.

”Myndigheden vil gennemføre en undersøgelse af om loven i New York er blevet overtrådt, og den vil sikre, at alle forbrugere uanset køn bliver behandlet ens. Enhver algoritme, der med eller uden fortsæt, diskriminerer kvinder eller andre folk overtræder loven i New York,” lyder det ifølge Bloomberg fra en talsperson fra New York Departmen of Finansiel Services.

Goldman Sachs afviser dog, at der skulle finde diskrimination sted.

En talsperson fra selskabet oplyser til Bloomberg, at køn slet ikke indgår i kreditvurderingen.

Læs også: Apple springer ud som udbyder af bankløsninger: Mød Apple Card
Ændrede pludselig kreditvurdering
David Heinemeier Hansson hæfter sig dog ved, at hans kones kreditvurdering pludselig blev hævet efter, at sagen udviklede sig til en varm kartoffel for Apple og Goldman Sachs.

”Lige så snart, at det bliver en pr-sag, hævede de øjeblikkeligt hendes kreditvurderingen uden at kræve yderligere dokumentation,” siger han til Bloomberg og uddyber:

”Jeg tror ikke, at det skyldes, at der et sidder en person med onde hensigter og et ønske om at diskriminere. Men det er sagen uvedkommende. For hvordan kan vi vide, at der ikke problemer med machine-learning-algoritmer, når ingen kan oplyse, hvordan de er konstrueret,” siger han til det amerikanske medie.

Kendt for racerløb og open source
David Heinemeier Hansson er kendt for at have skabt det globale megahit Ruby on Rails, der et opensource framework til webudvikling, og i dag er han partner i den amerikanske software-virksomhed Basecamp.

”Hele årsagen til, at jeg var interesseret i Ruby on Rails, var, at jeg selv skulle bruge det til at bygge noget. Jeg byggede det, fordi jeg gerne ville have det,” fortalte han til Computerworld for tre år siden.

David Heinemeier Hansson kommer oprindeligt fra København, men i 2005 forlod han Danmark og i dag bor han i den amerikanske millionby Chicago.

Når han ikke beskæftiger sig med webudvikling er David Heinemeier Hansson desuden en erfaren racerkører, og han har adskillige gange deltager i det berømte franske 24 timers løb i Le Mans.

Læs også: Dansk top-programmør kører Le Mans: Derfor minder racerløb om programmering



mest debatterede artikler

Premium
Grundfos fyrer to-cifret antal it-medarbejdere i stor omstrukturering
Den store fyringsrunde i Grundfos i september har fået konsekvenser for selskabets it-afdeling, der bliver beskåret. Et to-cifret antal it-medarbejdere er blevet opsagt.
Computerworld
Stein Bagger gør comeback i ny branche: "De lignede et mafiahold, førte sig frem som nyrige og plaprede løs om urealistiske drømme"
Stein Bagger har skiftet navn og fører sig nu frem i store biler i en helt ny branche, skriver en dansk avis.
CIO
Podcast: Her er seks gode råd om ledelse og digitalisering fra danske top-CIO'er
The Digital Edge: Vi har talt med 17 af Danmarks dygtigste digitale ledere - og samlet deres seks bedste råd om digitalisering og ledelse. Få alle rådene på 26 minutter i denne episode af podcasten The Digital Edge.
Job & Karriere
Se Waoos forklaring: Derfor har selskabet fyret topchef Jørgen Stensgaard med omgående virkning
Waaos bestyrelse opsiger fiberselskabets topchef, Jørgen Stensgaard, der fratræder med omgående virkning. Se hele forklaringen fra Waao her.
White paper
Sådan sikrer du hovednøglen til jeres data
80% af alle ransomwareangreb skyldes misbrug af privilegerede brugeradgange. Ved at begrænse og overvåge adfærden på de privilegerede konti samt kontrollere mængden af tildelte rettigheder kan du mindske skaden ved hackerangreb mod din virksomhed og i visse tilfælde helt blokere dem. Internt kan du bruge kontrollen med brugeradgange til at dokumentere, hvem der bevæger sig i hvilke systemer, og hvad der foregår derinde. Privilegeret brugerstyring har de seneste to år stået øverst på Gartners Top10-liste over it-sikkerhedsprojekter, der bør få højeste prioritet. Alligevel er teknologien kun så småt ved at finde fodfæste i Danmark. Det kan viden om åbenlyse gevinster, relativ kort implementeringstid og yderst rimeligt budget være med til at ændre på. I dette whitepaper folder vi temaet privilegeret brugerstyring ud og placerer teknologien i det væld af prioriteringer, som CISO’en hver dag skal foretage.