”Pro-aktivt at skade mennesker er ikke noget, jeg kan eller vil være en del af.”
Med de ord siger René Mayrhofer op. Han er tidligere Director of Android Platform Security og senest Principal Software Engineer hos Google.
Det gør han, fordi Google netop har indgået en aftale med det amerikanske forsvarsministerium, som René Mayrhofer forbinder med virksomhedens ændrede AI-retning.
I et meget langt, afskedsbrev skriver René Mayrhofer, at han forlader Google i udgangen af august, da han mener aftalen er uforenelig med hans etiske principper.
I afskedsbrevet, som er skrevet til sine kolleger, men nogen lækkede det, henviser han til Googles AI-principper fra 2018, der udelukker våben og overvågningsteknologi. Her siger han blandt andet:
”Googles ledelse har tabt sit moralske kompas,” skriver han.
Google var et drømmejob i 2017
René Mayrhofer beskriver virksomhedskulturen hos Google tilbage i 2017, da han fik tilbudt en lederrolle med ansvar for sikkerhed på Android-platformen.
Dengang var jobbet et drømmejob, skriver han. Han husker, hvordan Google annullerede en Pentagon-kontrakt efter intern medarbejderprotest.
I dag mener han, at Google bevæger sig væk fra de AI-principper, virksomheden tidligere havde offentliggjort, og at beslutninger i dag træffes uden intern debat eller kommunikation til medarbejderne.
”’Don’t be evil’ var ikke bare et slogan. Det var et pejlemærke.”
I 2017 så han Google-jobbet som et sted, han kunne påvirke sikkerheden.
Han havde allerede forsket i Android siden 2009 og betragtede Android som det mest interessante operativsystem i verden at arbejde med.
Jobbet hos Google gav ham mulighed for at arbejde i et firma med en global rækkevidde, open source-tradition og mulighed for at påvirke milliarder af mennesker.
”Det handlede altid om at gøre det rigtige for vores brugere,” skriver han.
Det handlede ifølge ham om at gøre tingene så sikre som muligt.
Google havde engang etiske grænser
Google var i slut 2010’erne en virksomhed, som ifølge ham havde stor åbenhed, plads til faglig uenighed og en forventning om, at medarbejderne tog deres egne værdier med ind i arbejdet.
Dengang husker han, at Google ikke ville udvikle AI til våben, teknologier, der skader mennesker, overvågning i strid med internationale normer og anvendelser i strid med menneskerettigheder. Altså reelle etiske grænser, skriver han.
Mange ønskede at arbejde hos Google, fordi virksomheden satte klare grænser for, hvad man ville bruge teknologien til.
Han skriver også, at beslutningen ikke har været let. Hans afskedsbrev var egentligt tænkt til kun at blive læst af kolleger hos Google og en mindre gruppe akademiske samarbejdspartnere.
Historien har siden fået langt større udbredelse end oprindeligt tænkt.
”Mit mål var alene at være transparant, og forhåbentlig få fakta på plads,” skriver han i en senere tilføjelse.
Som pacifist har han derfor valgt at stoppe i Google, da han ikke vil bakke op om aftalen med det amerikanske forsvarsministerium.
