Illustration: Antonis Papantoniou/iStockphoto

For menneskehedens overlevelse: Google udvikler dødsknap til kunstig intelligens

Et af problemerne med kunstig intelligens er, at computere ude af kontrol kan opbygge mekanismer, så vi ikke kan slukke for dem igen. Her får du Google og Oxford-forskeres bud på, hvordan vi kan undgå det potentielle dommedagsscenarie.

Tankerne om kunstig intelligens har siden opfindelsen af de første computere affødt både glæde og frygt.

Glæden skyldes, at maskinerne en dag - det vil allerede sige i dag - kan overtage en mængde kedelige og rutineprægede opgaver langt mere effektivt end mennesket.

Frygten bunder ultimativt i, at den kunstige intelligens kan vende sig mod menneskeheden, som der er blevet spekuleret i på blandt andet det store lærred.

Læs også: Googles kunstige intelligens-system stormer frem: Er ét spil fra at banke verdensmester i dette avancerede spil

HAL fra Space Odyssey, robotterne i Westworld, Arnold Schwarzenegger i Terminator 1 og senest den kvindelige robot  Ava i Ex-Machina har alle mere eller mindre udspekuleret forsøgt at tage kontrollen fra de mennesker, der opfandt dem.

Derfor er det måske meget betryggende, at Google med hænderne særdeles dybt begravet i udviklingen af kunstig intelligens nu vil bygge en dødsknap til at standse den kunstige intelligens, hvis den cykler ud af kontrol.

Det skriver Hot Hardware.

Den røde knap
Googles arbejde på stopknappen foregår i samarbejde med Oxford Universitet, og de to parter opsummerer problemstillingen på følgende måde:

"Det er usandsynligt, at kunstig intelligens i et så komplekst miljø som den virkelige verden altid vil opføre sig optimalt. Hvis den kunstige intelligens opererer i et realtidsmiljø med menneskelig overvågning, vil det fra tid til anden kunne blive nødvendigt for den menneskelige observatør at trykke på en stor, rød knap for at forhindre den kunstige intelligens i foretage en eller flere skadelige handlinger."

Du kan selv læse i forskernes arbejdspapirer her: Safely Interruptible Agents

Så langt så godt - for et tryk på denne såkaldte røde knap vil altså kunne stoppe den kunstige intelligens, som i stigende grad er ved at blive indført i den amerikanske hær.

Men måske skal Google og Oxford-forskerne til at bygge to røde knapper.

Sov roligt om natten
For de ridser en anden problemstilling op, hvis den kunstige intelligens skulle komme ud af menneskelig kontrol:

"Hvis den kunstige intelligens forventer at modtage belønninger fra dens opgaver, vil den måske i det lange løb lære at undgå afbrydelser - ved eksempelvis at deaktivere den røde knap - som er et uønskeligt resultat," lyder det fra Google og Oxford-forskerne.

Herefter er pointen i deres arbejdspapir, at den kunstige intelligens ikke skal kunne lære at forhindre at blive slukket, hvorefter der i arbejdspapirer via en række formler påvises, hvordan det kan undgås.

I arbejdet bliver der blandt andet opridset en fremtidig mulighed i, at automatisk indbyggede afbrydelser i den kunstige intelligens kunne være vejen frem.

Så hvis den kunstige intelligens eksempelvis bliver slukket regelmæssigt klokken to om natten, kan du vel godt sove trygt og sikkert.

Læs også:
"De fleste har jo tre-fire milliarder linjer kunstig intelligens-kode i lommen"

Mark Zuckerberg: Kunstig intelligens overstiger menneskelige sanser inden for 10 år

Google vil udvikle kunstig intelligens med kvantecomputer




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Fiftytwo A/S
Udvikling og salg af software til integration, kommunikation og e-handel samt ERP med fokus på leasing, detailhandlen, digitale abonnementer og dagblade/magasiner.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Op og ned på Java: Migrér og spar penge med Red Hat Java

Hvis du anvender Java til dine forretningskritiske applikationer, skal du træffe en beslutning om, hvordan du bruger det, og hvilken leverandør, der kan støtte dig bedst. For brugere af Oracle JDK nærmer fristen sig nemlig hurtigt for at beslutte, hvilken Java udbyder der skal bruges på lang sigt, når man kører Java-applikationer i produktion.

24. november 2020 | Læs mere


GDPR, status og overblik: Påbud og afgørelser strømmer nu ud fra Datatilsynet

Få styr på hvordan du kan sikre løbende overholdelse af GDPR-reglerne i fremtiden. Ved hjælp af de rigtige processuelle værktøjer og systemer kan du leve op til forventningen om, at din virksomhed har styr på reglerne og overholdelses af dem.

25. november 2020 | Læs mere


Hvordan bevarer du kontrollen, når målet er ultimativ frihed? Data Governance i en hybrid infrastruktur

Vores infrastruktur er i høj grad blevet ”sluppet løs”. Vi lever alle sammen med hybrid IT, hvor vores workloads er (eller skal ende) som frie og mobile entiteter, og hvor data kan bo overalt. Men hvordan bevarer du kontrollen, når målet er ultimativ frihed? I dette webinar retter vi fokus mod én af de måder, hvormed vi bedst bevarer balancen mellem frihed og kontrol over vores værdifulde data.

26. november 2020 | Læs mere





mest debatterede artikler

Premium
Banker indfører nye skrappe regler for e-handel to måneder før forventet: “Det er et uheldigt tidspunkt”
Efter at være blevet udsat er de nye betalingsregler for webshops nu trådt i kraft. Men timingen kunne ikke være værre, lyder det fra Dansk Erhverv.
Computerworld
Stein Bagger gør comeback i ny branche: "De lignede et mafiahold, førte sig frem som nyrige og plaprede løs om urealistiske drømme"
Stein Bagger har skiftet navn og fører sig nu frem i store biler i en helt ny branche, skriver en dansk avis.
CIO
Podcast: Her er seks gode råd om ledelse og digitalisering fra danske top-CIO'er
The Digital Edge: Vi har talt med 17 af Danmarks dygtigste digitale ledere - og samlet deres seks bedste råd om digitalisering og ledelse. Få alle rådene på 26 minutter i denne episode af podcasten The Digital Edge.
Job & Karriere
Se Waoos forklaring: Derfor har selskabet fyret topchef Jørgen Stensgaard med omgående virkning
Waaos bestyrelse opsiger fiberselskabets topchef, Jørgen Stensgaard, der fratræder med omgående virkning. Se hele forklaringen fra Waao her.
White paper
Sådan sælger du nemt IT-sikkerhed og backup som en service – og styrker din indtjening
Den klassiske forhandlermodel med salg af produkter er under pres. Som IT-forhandler er du enormt konkurrenceudsat og de kunder der køber, er ikke altid loyale. Den hårde konkurrence giver samtidig stærkt begrænsede margener. For kunden er det er mere besværligt købe produkter end det er at købe services og du risikerer derfor, at kunden smutter over til en nemmere og mere fleksibel løsning - det vil sige til nogen, der sælger services. Nøglen til vækst er ofte at påtage sig rollen som managed service provider. Her tilbyder du en pakke af services, der komplementerer primærproduktet og løser en udfordring for kunden – og styrker dit salg og din indtjening. Du opnår en løbende indtægt, en tættere relation til dine kunder og en fleksibilitet og skalerbarhed, som kun skyen kan tilbyde. Et oplagt eksempel er en kombination af salg af services som cyberbeskyttelse og backup. I denne hvidbog får du konkrete råd til, hvordan du kommer i gang med at optimere din forretningsmodel.