"Problemet er ikke, at vores maskiner bliver intelligente, men at de bliver autonome"

Vi skal passe på med at overlade kunstigt intelligente robotter til sig selv, for så kan det potentielt grueligt galt, mener professor Thomas Ploug.

Computere bliver hele tiden klogere, og en dag er de måske så kloge, at vi mennesker ikke forstår dem længere.

Den dag ligger dog formentligt så langt ude i fremtiden, at de fleste af os residerer for evigt syv fod under jordens overflade.

Ikke desto mindre opfordrer professor Thomas Ploug computerbyggere til at overveje deres skaberværk, når det kommer til at indbygge kunstig intelligens.

Udover at være professor i anvendt etik ved Center for anvendt etik og videnskabsfilosofi ved Aalborg Universitet i København er Thomas Ploug medlem af Etisk Råd.

Et klassisk dilemma
På den baggrund har Computerworld bedt ham om at ridse op, hvordan etik og kunstig intelligens danser sammen.

Og Thomas Ploug mener, at der er flere faldgruber, når vi gerne vil have de kunstigt intelligente maskiner til at opføre sig etisk.

"Der er det næsten klassiske dilemma om, hvordan en selvkørende bil skal vælge mellem at køre ind i to ældre damer eller i en lille pige, hvis den ikke kan undgå kollision og er tvunget til at træffe et etisk valg," siger han.

"Der er også de situationer med kombinationen af lyn, torden, minus 15 grader, kørsel på glatte veje, i mørke, som vi aldrig har prøvet før. Vi har i sådanne situationer udfordringer med, hvordan den kunstige intelligens vil reagere," fortsætter Thomas Ploug.

Problemet med de autonome
Udover at droner kan genere privatlivets fred med et øje i det høje, og selvkørende biler kan komme ud for lidt af hvert, arbejder blandt andre USA på at sende dræberrobotter i krig.

Læs også: Forsker: Stop dræber-robotterne før det er for sent

Professor Thomas Ploug frygter dog ikke ligefrem, at disse robotter i bedste/værste Hollywood-stil bliver onde og vender sig mod os.

Derimod er han betænkelig ved, at man lægger for meget beslutningskraft over i intelligente robotter, som i sidste ende er en bunke hardware og software med indbyggede instrukser.

"Man kan stille sig selv det spørgsmål, om en fejlramt dræberrobot kan skelne mellem venner og fjender. Når det kommer til at dræbe, må der jo bare ikke være nogen fejlmargin, og her den menneskelige styring af robotten uhyre vigtig," siger Thomas Ploug og fortsætter:

"Problemet er jo ikke, at vores maskiner bliver intelligente, men snarere at de bliver autonome. De kan jo risikere at træffe beslutninger på få splitsekunder, som vi mennesker synes, er meget uheldige."

Maskiner gik amok med hinanden
Kort sagt: Professor Thomas Ploug mener, at vi mennesker aldrig må slippe styringen af de intelligente maskiner mere end højst nødvendigt.

"De teknologiske forudsætninger for kunstig intelligens er vi jo stadig herre over, og forbliver vi ikke det, kan der opstå meget kritiske situationer med kunstig intelligens på afveje," forklarer han.

Et katastrofalt eksempel herpå - om end helt livsufarligt - opstod i 2010, da en maskine på børsen i New York fejlagtigt forsøgte at sælge aktier til en værdi af 30 milliarder kroner på et tidspunkt, hvor der allerede var en del uro på markedet.

Den udmelding fik andre handelsrobotter forfinet til handler på mikrosekunder til at reagere, og i løbet af en halv time styrtdykkede Dow Jones Industrial Index i USA med næsten 1.000 point - et såkaldt "Flash crash".

Læs også: Løbsk algoritme udløste mini-børskrak

Den lavine af uheldige beslutninger ville være meget trist at følge på eksempelvis et hospital, mener Thomas Ploug.

"Vi mennesker har en dømmekraft, som du ikke bare kan sætte på formel. Dømmekraft i nye, unikke situationer er formentligt noget, som kun vi mennesker kan håndtere. Et etisk rigtigt valg i én situation, kan være et etisk forkert valg i en anden situation," afrunder Thomas Ploug.

Læs også: 
Krav om etiske regler for dræber-robotter

Googles søgemaskine skal kunne tænke selv - ekspert i AI ny topchef for søgeforretningen


Ytringer på debatten er afsenders eget ansvar - læs debatreglerne
Indlæser debat...


Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Bording Data A/S
Udvikling og salg af software til integration, kommunikation og e-handel samt ERP med fokus på detailhandlen, digitale abonnementer og dagblade/magasiner.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
It-sikkerhed 2017: De nye trusler - og dit næste modtræk

Vi tager pulsen på den aktuelle it-sikkerhedssituation ved at gå i dybden med de nyeste trusler og give til inspiration til dine nødvendige modtræk. Der er masser at skulle forholde sig til som it-ansvarlig. Men har du forstået de reelle trusler, og prioriterer du sikkerhedsindsatsen på den mest hensigtsmæssige måde?

24. januar 2017 | Læs mere


It-sikkerhed 2017: De nye trusler - og dit næste modtræk

Vi tager pulsen på den aktuelle it-sikkerhedssituation ved at gå i dybden med de nyeste trusler og give til inspiration til dine nødvendige modtræk. Der er masser at skulle forholde sig til som it-ansvarlig. Men har du forstået de reelle trusler, og prioriterer du sikkerhedsindsatsen på den mest hensigtsmæssige måde?

26. januar 2017 | Læs mere


Customer Relationship Management (CRM)

CRM er stort set blevet en standard i danske virksomheder. Der stilles stigende krav til sikkerheden når værdifulde informationer om virksomhedens væsentligste aktiv - kunderne - skal sikres, deles og gemmes, og netop sikkerheden i den web-baserede løsning kan virke uoverskuelig. Hør mere om hvordan bringer du dig i front med CRM, og hvordan får du størst muligt afkast af din CRM-investering.

31. januar 2017 | Læs mere






Computerworld
Advarsel til Gmail-brugerne: Lumsk phishing-mail på spil netop nu - sådan spotter du den
Gmail-brugerne skal være på vagt: It-kriminelle forsøger sig i øjeblikket med en udspekuleret phishing-mail. Se her, hvordan du spotter fupnummeret.
CIO
Årets CIO om 2017: Nu skruer vi op for kunstig intelligens for at finde mønstre i driftdata og optimere komponenter
Klumme: Hos Energinet går forretning og it nu sammen om at skabe systemer baseret på kunstig intelligens. Målet er et mere effektivt dansk el-system ved at udnytte og forstå de gigantiske datamængder fra elforsyningen.
Comon
Undgå passwordet: Smart tilbehør til at låse og åbne din computer med Windows Hello
Windows Hello kan mere end blot låse din computer op med dit ansigt. Der findes en lang række muligheder af tilbehør, som kan være med til at sikre din computer mod indtrængere. Se fem af dem her.
Channelworld
Ny EG-direktør har en plan: Sådan skal EG vokse sig større og endnu mere profitabel
Interview: Mikkel Bardram er ny administrerende direktør i EG. Selvom EG nu har 2.000 ansatte og en omsætning på 1,8 milliarder kroner, er der potentiale for endnu mere, mener den nye direktør.
White paper
Mobility - her er de aktuelle udfordringer
Hvad med sikkerheden? Mobility-bølgen fejer igennem danske virksomheder, og der er masser af muligheder og faldgruber. Sikkerheden halter, men det kan der gøres noget ved. Produceret af Computerworld.dk i oktober 2014.