Tankerne om kunstig intelligens har siden opfindelsen af de første computere affødt både glæde og frygt.
Glæden skyldes, at maskinerne en dag - det vil allerede sige i dag - kan overtage en mængde kedelige og rutineprægede opgaver langt mere effektivt end mennesket.
Frygten bunder ultimativt i, at den kunstige intelligens kan vende sig mod menneskeheden, som der er blevet spekuleret i på blandt andet det store lærred.
HAL fra Space Odyssey, robotterne i Westworld, Arnold Schwarzenegger i Terminator 1 og senest den kvindelige robot Ava i Ex-Machina har alle mere eller mindre udspekuleret forsøgt at tage kontrollen fra de mennesker, der opfandt dem.
Derfor er det måske meget betryggende, at Google med hænderne særdeles dybt begravet i udviklingen af kunstig intelligens nu vil bygge en dødsknap til at standse den kunstige intelligens, hvis den cykler ud af kontrol.
Det skriver Hot Hardware.
Den røde knap
Googles arbejde på stopknappen foregår i samarbejde med Oxford Universitet, og de to parter opsummerer problemstillingen på følgende måde:
"Det er usandsynligt, at kunstig intelligens i et så komplekst miljø som den virkelige verden altid vil opføre sig optimalt. Hvis den kunstige intelligens opererer i et realtidsmiljø med menneskelig overvågning, vil det fra tid til anden kunne blive nødvendigt for den menneskelige observatør at trykke på en stor, rød knap for at forhindre den kunstige intelligens i foretage en eller flere skadelige handlinger."
Du kan selv læse i forskernes arbejdspapirer her: Safely Interruptible Agents
Så langt så godt - for et tryk på denne såkaldte røde knap vil altså kunne stoppe den kunstige intelligens, som i stigende grad er ved at blive indført i den amerikanske hær.
Men måske skal Google og Oxford-forskerne til at bygge to røde knapper.
Sov roligt om natten
For de ridser en anden problemstilling op, hvis den kunstige intelligens skulle komme ud af menneskelig kontrol:
"Hvis den kunstige intelligens forventer at modtage belønninger fra dens opgaver, vil den måske i det lange løb lære at undgå afbrydelser - ved eksempelvis at deaktivere den røde knap - som er et uønskeligt resultat," lyder det fra Google og Oxford-forskerne.
Herefter er pointen i deres arbejdspapir, at den kunstige intelligens ikke skal kunne lære at forhindre at blive slukket, hvorefter der i arbejdspapirer via en række formler påvises, hvordan det kan undgås.
I arbejdet bliver der blandt andet opridset en fremtidig mulighed i, at automatisk indbyggede afbrydelser i den kunstige intelligens kunne være vejen frem.
Så hvis den kunstige intelligens eksempelvis bliver slukket regelmæssigt klokken to om natten, kan du vel godt sove trygt og sikkert.
"De fleste har jo tre-fire milliarder linjer kunstig intelligens-kode i lommen"
Mark Zuckerberg: Kunstig intelligens overstiger menneskelige sanser inden for 10 år
Google vil udvikle kunstig intelligens med kvantecomputer
