"Problemet er ikke, at vores maskiner bliver intelligente, men at de bliver autonome"

Vi skal passe på med at overlade kunstigt intelligente robotter til sig selv, for så kan det potentielt grueligt galt, mener professor Thomas Ploug.

Computere bliver hele tiden klogere, og en dag er de måske så kloge, at vi mennesker ikke forstår dem længere.

Den dag ligger dog formentligt så langt ude i fremtiden, at de fleste af os residerer for evigt syv fod under jordens overflade.

Ikke desto mindre opfordrer professor Thomas Ploug computerbyggere til at overveje deres skaberværk, når det kommer til at indbygge kunstig intelligens.

Udover at være professor i anvendt etik ved Center for anvendt etik og videnskabsfilosofi ved Aalborg Universitet i København er Thomas Ploug medlem af Etisk Råd.

Et klassisk dilemma
På den baggrund har Computerworld bedt ham om at ridse op, hvordan etik og kunstig intelligens danser sammen.

Og Thomas Ploug mener, at der er flere faldgruber, når vi gerne vil have de kunstigt intelligente maskiner til at opføre sig etisk.

"Der er det næsten klassiske dilemma om, hvordan en selvkørende bil skal vælge mellem at køre ind i to ældre damer eller i en lille pige, hvis den ikke kan undgå kollision og er tvunget til at træffe et etisk valg," siger han.

"Der er også de situationer med kombinationen af lyn, torden, minus 15 grader, kørsel på glatte veje, i mørke, som vi aldrig har prøvet før. Vi har i sådanne situationer udfordringer med, hvordan den kunstige intelligens vil reagere," fortsætter Thomas Ploug.

Problemet med de autonome
Udover at droner kan genere privatlivets fred med et øje i det høje, og selvkørende biler kan komme ud for lidt af hvert, arbejder blandt andre USA på at sende dræberrobotter i krig.

Læs også: Forsker: Stop dræber-robotterne før det er for sent

Professor Thomas Ploug frygter dog ikke ligefrem, at disse robotter i bedste/værste Hollywood-stil bliver onde og vender sig mod os.

Derimod er han betænkelig ved, at man lægger for meget beslutningskraft over i intelligente robotter, som i sidste ende er en bunke hardware og software med indbyggede instrukser.

"Man kan stille sig selv det spørgsmål, om en fejlramt dræberrobot kan skelne mellem venner og fjender. Når det kommer til at dræbe, må der jo bare ikke være nogen fejlmargin, og her den menneskelige styring af robotten uhyre vigtig," siger Thomas Ploug og fortsætter:

"Problemet er jo ikke, at vores maskiner bliver intelligente, men snarere at de bliver autonome. De kan jo risikere at træffe beslutninger på få splitsekunder, som vi mennesker synes, er meget uheldige."

Maskiner gik amok med hinanden
Kort sagt: Professor Thomas Ploug mener, at vi mennesker aldrig må slippe styringen af de intelligente maskiner mere end højst nødvendigt.

"De teknologiske forudsætninger for kunstig intelligens er vi jo stadig herre over, og forbliver vi ikke det, kan der opstå meget kritiske situationer med kunstig intelligens på afveje," forklarer han.

Et katastrofalt eksempel herpå - om end helt livsufarligt - opstod i 2010, da en maskine på børsen i New York fejlagtigt forsøgte at sælge aktier til en værdi af 30 milliarder kroner på et tidspunkt, hvor der allerede var en del uro på markedet.

Den udmelding fik andre handelsrobotter forfinet til handler på mikrosekunder til at reagere, og i løbet af en halv time styrtdykkede Dow Jones Industrial Index i USA med næsten 1.000 point - et såkaldt "Flash crash".

Læs også: Løbsk algoritme udløste mini-børskrak

Den lavine af uheldige beslutninger ville være meget trist at følge på eksempelvis et hospital, mener Thomas Ploug.

"Vi mennesker har en dømmekraft, som du ikke bare kan sætte på formel. Dømmekraft i nye, unikke situationer er formentligt noget, som kun vi mennesker kan håndtere. Et etisk rigtigt valg i én situation, kan være et etisk forkert valg i en anden situation," afrunder Thomas Ploug.

Læs også: 
Krav om etiske regler for dræber-robotter

Googles søgemaskine skal kunne tænke selv - ekspert i AI ny topchef for søgeforretningen




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Tieto Denmark A/S
Udvikler, sælger og implementerer software til ESDH, CRM og portaler. Fokus på detailhandel, bygge- og anlæg, energi og finans.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Nye muligheder for lynhurtig planning optimization i Dynamics 365 SCM

Hurtigere omstilling i virksomhedens supply chain er blevet et must og med de nye muligheder for lynhurtig planning optimization i Dynamics 365 SCM får du en fleksibel og skalerbar MRP-motor.

20. januar 2021 | Læs mere


Digital Vækst 2021

Vi ved, at fremtidens vindervirksomheder er digitale. På konferencen undersøger vi de tre vigtigste aspekter i den digitale transformation: Forretningsmodellerne, de menneskelige og organisatoriske faktorer samt valget af teknologier. I tre Digitale Dilemmaer giver vi en række digitale frontløbere fem minutter hver til at levere deres bedste guldkorn, og herefter åbner vi for spørgsmål fra salen – også digitalt. Diskussionen modereres af chefredaktør på Computerworld, Lars Jacobsen.

21. januar 2021 | Læs mere


Strategiske it-sikkerhedsdage 2021

God it-sikkerhed er blevet en strategisk disciplin der kombinerer ledelse, adfærd, processer og teknologi. Men hvor lægger du niveauet? Hvad er vigtigt for forretningen og den drift? Hvad er knapt så vigtigt? Hvordan indtænker du it-sikkerheds-indsatsen strategisk? Hvad gør du, når skaden er sket? Bliv klogere på ”Strategiske it-sikkerhedsdage 2021: Trusler, tendenser og værktøjer”.

26. januar 2021 | Læs mere






Premium
IBM fortsætter offensiv opkøbsstrategi: Køber en af de største og ældste multicloud-leverandører i USA
IBM opkøber cloud-virksomheden MSP Taos. Det er blot det seneste opkøb fra IBM i jagten på de store cloud-giganter og falder i tråd med IBM's offensive hybrid cloud-strategi.
Computerworld
Verdens tredjestørste smartphone-producent blacklistes af Trump-administrationen
Smartphoneproducenten Xiaomi er blandt de ni nytilkomne på Trump-administrationens sorte liste over kinesiske virksomheder, som amerikanerne ikke længere må investere i.
CIO
Podcast: Hos Viking Life-Saving Equipment er it gået fra at være backend til at være noget, som kunderne spørger aktivt efter
Podcast, The Digital Edge: Viking leverer en stadig større del af deres produkt som en tjeneste. Som en del af tjenesten tager Viking ansvar for sikkerheden ved at levere, dokumentere og vedligeholde det nødvendige sikkerhedsudstyr. Hør hvordan Henrik Balslev senior digital director hos Viking har løftet den opgave.
Job & Karriere
Microsoft i kæmpe dansk satsning - åbner tre store datacentre i Danmark
Microsoft lancerer kæmpe satsning fra hovedkvarteret i Lyngby. Selskabet åbner tre store bæredygtige datacentre på Sjælland.
White paper
Digital transformation tvinger organisationer til at nå deres digitale mål på nye måder
Allerede for to år siden hævdede nordiske virksomheder, at virksomhedernes konkurrenceevne og sågar overlevelse var afhængig af en vellykket digitalisering. De var klar, fulde af håb og på vej mod det digitale paradis. Hvordan gik det så? Hvor er de nu? For at finde ud af det, interviewede DigiPlex og Norstat 377 forretningsledere og IT-beslutningstagere fra organisationer fordelt over hele Danmark, Sverige og Norge om deres digitaliseringsfremskridt, om hvordan de har håndteret pandemien, og om hvordan IT understøtter eller står i vejen for indfrielsen af deres bæredygtighedsmål. DigiPlex kan nu dele en rapport med resultaterne fra undersøgelsen samt tanker om, hvordan man håndterer dem. De deler også nogle nyttige tips til, hvordan man skaber en pålidelig infrastruktur, der kan tilskynde til og understøtte ambitioner i den digitale økonomi. Læs mere i rapporten Nordic Data Center Trends 2020: Riding out the Storm.