Artikel top billede

Illustration: Antonis Papantoniou/iStockphoto

For menneskehedens overlevelse: Google udvikler dødsknap til kunstig intelligens

Et af problemerne med kunstig intelligens er, at computere ude af kontrol kan opbygge mekanismer, så vi ikke kan slukke for dem igen. Her får du Google og Oxford-forskeres bud på, hvordan vi kan undgå det potentielle dommedagsscenarie.

Tankerne om kunstig intelligens har siden opfindelsen af de første computere affødt både glæde og frygt.

Glæden skyldes, at maskinerne en dag - det vil allerede sige i dag - kan overtage en mængde kedelige og rutineprægede opgaver langt mere effektivt end mennesket.

Frygten bunder ultimativt i, at den kunstige intelligens kan vende sig mod menneskeheden, som der er blevet spekuleret i på blandt andet det store lærred.

Læs også: Googles kunstige intelligens-system stormer frem: Er ét spil fra at banke verdensmester i dette avancerede spil

HAL fra Space Odyssey, robotterne i Westworld, Arnold Schwarzenegger i Terminator 1 og senest den kvindelige robot  Ava i Ex-Machina har alle mere eller mindre udspekuleret forsøgt at tage kontrollen fra de mennesker, der opfandt dem.

Derfor er det måske meget betryggende, at Google med hænderne særdeles dybt begravet i udviklingen af kunstig intelligens nu vil bygge en dødsknap til at standse den kunstige intelligens, hvis den cykler ud af kontrol.

Det skriver Hot Hardware.

Den røde knap

Googles arbejde på stopknappen foregår i samarbejde med Oxford Universitet, og de to parter opsummerer problemstillingen på følgende måde:

"Det er usandsynligt, at kunstig intelligens i et så komplekst miljø som den virkelige verden altid vil opføre sig optimalt. Hvis den kunstige intelligens opererer i et realtidsmiljø med menneskelig overvågning, vil det fra tid til anden kunne blive nødvendigt for den menneskelige observatør at trykke på en stor, rød knap for at forhindre den kunstige intelligens i foretage en eller flere skadelige handlinger."

Du kan selv læse i forskernes arbejdspapirer her: Safely Interruptible Agents

Så langt så godt - for et tryk på denne såkaldte røde knap vil altså kunne stoppe den kunstige intelligens, som i stigende grad er ved at blive indført i den amerikanske hær.

Men måske skal Google og Oxford-forskerne til at bygge to røde knapper.

Sov roligt om natten

For de ridser en anden problemstilling op, hvis den kunstige intelligens skulle komme ud af menneskelig kontrol:

"Hvis den kunstige intelligens forventer at modtage belønninger fra dens opgaver, vil den måske i det lange løb lære at undgå afbrydelser - ved eksempelvis at deaktivere den røde knap - som er et uønskeligt resultat," lyder det fra Google og Oxford-forskerne.

Herefter er pointen i deres arbejdspapir, at den kunstige intelligens ikke skal kunne lære at forhindre at blive slukket, hvorefter der i arbejdspapirer via en række formler påvises, hvordan det kan undgås.

I arbejdet bliver der blandt andet opridset en fremtidig mulighed i, at automatisk indbyggede afbrydelser i den kunstige intelligens kunne være vejen frem.

Så hvis den kunstige intelligens eksempelvis bliver slukket regelmæssigt klokken to om natten, kan du vel godt sove trygt og sikkert.

"De fleste har jo tre-fire milliarder linjer kunstig intelligens-kode i lommen"


Mark Zuckerberg: Kunstig intelligens overstiger menneskelige sanser inden for 10 år

Google vil udvikle kunstig intelligens med kvantecomputer




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Alfapeople Nordic A/S
Rådgivning, implementering, udvikling og support af software og it-løsninger indenfor CRM og ERP.

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Computerworld Summit 2021

En moderne digital vindervirksomhed bringer nye teknologier i spil, skaber digital innovation, udnytter data som styringsværktøj og ser verden som én stor markedsplads. Men succes kræver, at du ved, hvor den dyre teknologi kan gøre den største forskel i forretningen. Den kræver, at du ved i hvilken retning den øgede politiske regulering af teknologi og data bevæger sig hen. Og den succes kræver, at du kan udnytte teknologien til at automatisere og skalere til gavn for bundlinjen og budgettet.

26. oktober 2021 | Læs mere


CIO Trends 2021: Sådan ser teknologiradaren ud hos Danmarks bedste CIOs

Teknologien i virksomheder spiller i den grad en større og større rolle, hvor vi er nødt til at stille endnu større krav til, hvordan vi udnytter den, og hvilke muligheder den giver. Spørgsmålet er dog, hvordan man formår at lede en virksomhed, der konstant skal forholde sig til teknologiens forandringer.

16. november 2021 | Læs mere


How to Sikkerhed: Awareness, email fraud og phishing

Man kan aldrig vide sig sikker, for uanset hvor godt man sikrer sig mod hackerangreb og anden svindel, vil hacker næsten altid være et skridt foran. De går efter organisationernes svageste led i håbet om at kunne snyde sig til data, penge eller andet værdifuldt. Få derfor konkrete bud på, hvordan du kan gribe opgaven an og understøtte et effektivt awareness-niveau i din organisation med enkel, men velfungerende, teknologi.

17. november 2021 | Læs mere