Artikel top billede

Forsker: Stop dræber-robotterne før det er for sent

Et stigende antal selvtænkende våben-robotter er en særdeles uheldig udvikling for klodens sikkerhed, mener britisk professor i kunstig intelligens.

Udviklingen af våben uden menneskelige fingre på aftrækkeren er gået for vidt og bør stoppes.

Det mener professor i kognitiv computing, Mark Bishop, ved Goldsmith Universitetet i England, hvor han også sidder som formand for Foreningen for Studier af Kunstig Intelligens og Simulering (AISB).

Professoren påpeger at det stadigt stigende forbrug af forsvarsvåben som det amerikanske Phalanx-system og ubemandede angrebsrobotter som det israelske antennekøretøj Harpy designet til at angribe radarssystemer simpelthen er et skred i en meget uheldig retning.

Det skriver New Scientist.

Kan føre til seriøse konflikter

"Der er grunde til at tvivle på, om selvstyrende systemer kan afgøre, hvornår de skal tages i brug, om de reagerer proportionalt i forhold til truslen, og om de kan skelne mellem soldater og civilbefolkning," siger Mark Bishop til New Scientist.

Professorens udtalelser kommer i forbindelse med, at en international kampagne initieret af flere NGO'er vil have stoppet dræberroboternes fremmarch. 

Mark Bishop hejser også et advarselsflag, når det kommer til uforudsete konsekvenser i erhvervelsen af de mange komplekse selvkørende, -flyvende og -skydende softwarevåben med et eksempel fra bøgernes verden, hvor der også bliver brugt robotter til udarbejdelsen af priser.

"Et levende eksempel blev set på Amazon.com i 2011, da robotter satte prisen på bogen 'The Making of a Fly' til over 23 millioner dollar," forklarer han til New Scientist.

Og han vender sig hurtigt mod slagmarken igen, hvor de autonome våben sænker omkostningerne for både producenter og kunderne - hvilket vil sige regeringer overalt på kloden, der dermed kan købe endnu flere våben end i dag.

"I Sydkorea er forskere ved at udvikle en robot til at patruljere langs grænsen til Nordkorea. Hvis sådan en robot blev indsat forkert, eller den angreb uden forbehold for den reelle trussel, er det nemt at forestille sig, hvordan en mindre grænsesituation kunne udvikle sig til en seriøs konfrontation," siger Mark Bishop.

Undgik en atomkrig

Den britiske professor nævner også den famøse amerikanske militærøvelse Able Archer under Den Kolde Krig i 1983, hvor sovjetiske forsvarssystemer detekterede et amerikansk angribende missil mod russisk territorium ved en fejl.

Den sovjetiske oberstløjtnant Stanislav Petrov anså, at angrebet fra amerikanerne var en computerfejl, da radarer på jorden ingenting registrerede.

Den dengang 44-årige sovjetrussiske officer afværgede dermed reelt en atomkrig mellem Koldkrigens to supermagter - en atomkrig, der kunne have udslettet Jorden op til flere gange.

"Potentialet for våbenkapløb (inden for våben med kunstig intelligens, red.) bliver rigtig skræmmende, når du har autonome systemer, der interagerer med andre autonome systemer," siger Mark Bishop til New Scientist.

Goldsmith-professoren mener, at der skal globale aftaler til at bandlyse brugen af automatiske og "intelligente" våbensystemer.

"Teknologien bag autonome systemer har andre brugsscenarier som eksempelvis Googles bilkørselssystem," forklarer han.




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
TIETOEVRY DENMARK A/S
Udvikler, sælger og implementerer software til ESDH, CRM og portaler. Fokus på detailhandel, bygge- og anlæg, energi og finans.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Compliance og strategisk it-sikkerhed efter DORA

Finansielle koncerner har i snit 85 sikkerhedsløsninger i drift – men er i snit op til 100 dage om at opdage et igangværende cyberangreb. Ydermere viser øvelser, at det typisk tager 4-6 uger at rense og genetablere sikker drift af centrale systemer efter et stort angreb. Fokus for dagen vil derfor være på henholdsvis governance samt om, hvordan du som it-leder i den finansielle sektor skal kunne håndtere fremtidens cybertrusler og arbejde effektivt med sikkerhed på et strategisk niveau.

04. april 2024 | Læs mere


EA Excellence Day

Hvad er det, der gør it-arkitektens rolle så vigtig? Og hvad er det for udfordringer inden for områder som cloud, netværk og datacentre, som fylder hos nogle af landets bedste it-arkitekter lige nu? Det kan du her høre mere om og blive inspireret af på denne konference, hvor du også får lejlighed til at drøfte dette med ligesindede.

16. april 2024 | Læs mere


IAM - din genvej til højere sikkerhed uden uautoriseret adgang og datatab

På denne dag udforsker vi de nyeste strategier, værktøjer og bedste praksis inden for IAM, med det formål at styrke virksomheders sikkerhedsposition og effektiviteten af deres adgangsstyringssystemer og dermed minimere risikoen for uautoriseret adgang og datatab. Og hvordan man kommer fra at overbevise ledelsen til rent faktisk at implementere IAM?

18. april 2024 | Læs mere