Sæt farten ned, og få styr på kunstig intelligens. Nogenlunde sådan kan man koge budskaberne ned, som pave Leo har til verdens regeringer.
I pavens første store brev til offentligheden, den såkaldte encyklika, advarer han om, at AI spreder misinformation, prioriterer konflikt og risikerer at blive brugt til at føre endeløs krig. Det skriver Reuters.
Brevet bærer titlen "Magnifica Humanitas" – Storslåede Menneskehed – og fylder næsten 43.000 ord. Det har været undervejs, stort set siden den USA-fødte pave blev valgt for godt et år siden, og det har AI som sit bærende tema.
Afhængighed af nogle få techgiganter
I et afsnit, der ifølge The Guardian synes rettet mod Silicon Valley og amerikanske tech-giganter, advarer paven om, at magten over digitale systemer, infrastruktur og data ikke ligger hos staterne, men hos store økonomiske og teknologiske aktører.
Når den magt samles på få hænder, bliver den uigennemsigtig og unddrager sig offentlig kontrol – med risiko for nye afhængigheder, eksklusioner og uligheder, lyder advarslen.
Paven opfordrede derfor til en "afvæbning" af AI. Det betyder ikke at afvise teknologien, men at forhindre den i at "dominere" mennesket, skriver paven. Han opfordrer til at gøre teknologien mere menneskevenlig, tilgængelig for alle og åben.
Konkret efterlyser paven robuste juridiske rammer, uafhængigt tilsyn, oplyste brugere og et politisk system, der ikke fralægger sig sit ansvar.
Han opfordrer samtidig til, at ejerskabet til AI-data ikke efterlades i private hænder alene, og at konkurrencen mellem AI-selskaberne køles ned.
Advarer mod AI-krigsførsel
Særligt alvorligt bliver det, når talen falder på krig. Pave Leo udtrykte bekymring for, at nogle autonome våbensystemer er avanceret "praktisk talt uden for enhver menneskelig rækkevidde til at styre dem".
Brugen af AI i krig skal derfor underlægges de mest strenge etiske begrænsninger, fastslår han. Og det er ifølge paven "ikke tilladeligt" at overlade beslutninger om liv og død til AI-systemer.
Vatikanet har gennem flere år været i løbende dialog med blandt andre Microsoft og Google om netop AI. Med det nye brev tyder det på, at paven forsøger at få mere indflydelse og skabe en tættere dialog med tech-giganterne.
Anthropic-medstifter var med
Det var ikke hvem som helst, der var inviteret med til fremlæggelsen af encyklikaen i Vatikanet.
Med var blandt andet Christopher Olah, medstifter af Anthropic, et af verdens førende AI-selskaber, som står bag Claude.
Christopher Olah takkede paven for at sætte fokus på problemerne ved den nye teknologi og slog fast, at udviklingen af AI ikke kan overlades til de store tech-selskaber alene. Han efterlyste mere kontrol fra verdens ledere, regeringer og civilsamfundet.
"Ethvert førende AI-laboratorium, inklusive Anthropic, opererer inden for et sæt af incitamenter og begrænsninger, der nogle gange kan komme i konflikt med at gøre det rigtige," sagde Christopher Olah ifølge Reuters.
Han pegede desuden på en reel risiko for, at AI kan erstatte menneskelig arbejdskraft i meget stor skala.
