For menneskehedens overlevelse: Google udvikler dødsknap til kunstig intelligens

Et af problemerne med kunstig intelligens er, at computere ude af kontrol kan opbygge mekanismer, så vi ikke kan slukke for dem igen. Her får du Google og Oxford-forskeres bud på, hvordan vi kan undgå det potentielle dommedagsscenarie.

Artikel top billede

Illustration: Antonis Papantoniou/iStockphoto

Tankerne om kunstig intelligens har siden opfindelsen af de første computere affødt både glæde og frygt.

Glæden skyldes, at maskinerne en dag - det vil allerede sige i dag - kan overtage en mængde kedelige og rutineprægede opgaver langt mere effektivt end mennesket.

Frygten bunder ultimativt i, at den kunstige intelligens kan vende sig mod menneskeheden, som der er blevet spekuleret i på blandt andet det store lærred.

Læs også: Googles kunstige intelligens-system stormer frem: Er ét spil fra at banke verdensmester i dette avancerede spil

HAL fra Space Odyssey, robotterne i Westworld, Arnold Schwarzenegger i Terminator 1 og senest den kvindelige robot  Ava i Ex-Machina har alle mere eller mindre udspekuleret forsøgt at tage kontrollen fra de mennesker, der opfandt dem.

Derfor er det måske meget betryggende, at Google med hænderne særdeles dybt begravet i udviklingen af kunstig intelligens nu vil bygge en dødsknap til at standse den kunstige intelligens, hvis den cykler ud af kontrol.

Det skriver Hot Hardware.

Den røde knap

Googles arbejde på stopknappen foregår i samarbejde med Oxford Universitet, og de to parter opsummerer problemstillingen på følgende måde:

"Det er usandsynligt, at kunstig intelligens i et så komplekst miljø som den virkelige verden altid vil opføre sig optimalt. Hvis den kunstige intelligens opererer i et realtidsmiljø med menneskelig overvågning, vil det fra tid til anden kunne blive nødvendigt for den menneskelige observatør at trykke på en stor, rød knap for at forhindre den kunstige intelligens i foretage en eller flere skadelige handlinger."

Du kan selv læse i forskernes arbejdspapirer her: Safely Interruptible Agents

Så langt så godt - for et tryk på denne såkaldte røde knap vil altså kunne stoppe den kunstige intelligens, som i stigende grad er ved at blive indført i den amerikanske hær.

Men måske skal Google og Oxford-forskerne til at bygge to røde knapper.

Sov roligt om natten

For de ridser en anden problemstilling op, hvis den kunstige intelligens skulle komme ud af menneskelig kontrol:

"Hvis den kunstige intelligens forventer at modtage belønninger fra dens opgaver, vil den måske i det lange løb lære at undgå afbrydelser - ved eksempelvis at deaktivere den røde knap - som er et uønskeligt resultat," lyder det fra Google og Oxford-forskerne.

Herefter er pointen i deres arbejdspapir, at den kunstige intelligens ikke skal kunne lære at forhindre at blive slukket, hvorefter der i arbejdspapirer via en række formler påvises, hvordan det kan undgås.

I arbejdet bliver der blandt andet opridset en fremtidig mulighed i, at automatisk indbyggede afbrydelser i den kunstige intelligens kunne være vejen frem.

Så hvis den kunstige intelligens eksempelvis bliver slukket regelmæssigt klokken to om natten, kan du vel godt sove trygt og sikkert.

"De fleste har jo tre-fire milliarder linjer kunstig intelligens-kode i lommen"


Mark Zuckerberg: Kunstig intelligens overstiger menneskelige sanser inden for 10 år

Google vil udvikle kunstig intelligens med kvantecomputer

Annonce

Navnenyt fra it-Danmark

Netip A/S har pr. 17. august 2026 ansat Jesper U. Sørensen som Seniorkonsulent ved netIP's kontor i Esbjerg. Han kommer fra en stilling som Chief Technology Officer hos NetSec ApS, hvor han også var partner. Nyt job
Netip A/S har pr. 14. september 2026 ansat Andreas Thorø Møller som Systemkonsulent ved netIP's kontor i Aarhus. Han kommer fra en stilling som Endpoint Consultant hos Fellowmind Denmark A/S. Han er uddannet Datatekniker. Nyt job
Elbek & Vejrup A/S har pr. 15. august 2026 ansat Anne-Sofie Andreasen som Project Manager i Projekt & Service. Hun skal især beskæftige sig med ledelse og koordinering af projekter og serviceopgaver. Hun kommer fra en stilling som konsulent med fokus på digitale løsninger hos XFLow. Hun er uddannet cand.it. i IT, Kommunikation og Organisation. Hun har tidligere beskæftiget sig med analyse, udvikling, test og implementering af løsninger samt udarbejdelse af brugervejledninger. Nyt job

Anne-Sofie Andreasen

Elbek & Vejrup A/S

Arctic Wolf Networks har pr. 3. august 2026 ansat Johnny Krogsboll som Head of Sales Engineering for Norden.Med base i Stockholm får han ansvaret for Arctic Wolfs samlede Sales Engineering-organisation i den nordiske region.<br /><br />Johnny Krogsboll skal være med til at udbygge Arctic Wolfs tilstedeværelse i Norden og hjælpe virksomheder og organisationer med at stå stærkere over for et stadig mere komplekst cybertrusselsbillede. Det skal blandt andet ske i tæt samarbejde med Arctic Wolfs vigtigste kanalpartnere i regionen.<br /><br />Gennem sin karriere har Johnny Krogsboll arbejdet med og rådgivet virksomheder hos blandt andre Hewlett-Packard, Trend Micro og Palo Alto Networks med fokus på at skabe konkret værdi af deres teknologiinvesteringer. Nyt job

Johnny Krogsboll

Arctic Wolf Networks