Skriv dig op og få tallene først:Så meget tjener din chef og dine kollegaer - og det bliver lønstigningen i år (nok)

Artikel top billede

Illustration: Antonis Papantoniou/iStockphoto

For menneskehedens overlevelse: Google udvikler dødsknap til kunstig intelligens

Et af problemerne med kunstig intelligens er, at computere ude af kontrol kan opbygge mekanismer, så vi ikke kan slukke for dem igen. Her får du Google og Oxford-forskeres bud på, hvordan vi kan undgå det potentielle dommedagsscenarie.

Tankerne om kunstig intelligens har siden opfindelsen af de første computere affødt både glæde og frygt.

Glæden skyldes, at maskinerne en dag - det vil allerede sige i dag - kan overtage en mængde kedelige og rutineprægede opgaver langt mere effektivt end mennesket.

Frygten bunder ultimativt i, at den kunstige intelligens kan vende sig mod menneskeheden, som der er blevet spekuleret i på blandt andet det store lærred.

Læs også: Googles kunstige intelligens-system stormer frem: Er ét spil fra at banke verdensmester i dette avancerede spil

HAL fra Space Odyssey, robotterne i Westworld, Arnold Schwarzenegger i Terminator 1 og senest den kvindelige robot  Ava i Ex-Machina har alle mere eller mindre udspekuleret forsøgt at tage kontrollen fra de mennesker, der opfandt dem.

Derfor er det måske meget betryggende, at Google med hænderne særdeles dybt begravet i udviklingen af kunstig intelligens nu vil bygge en dødsknap til at standse den kunstige intelligens, hvis den cykler ud af kontrol.

Det skriver Hot Hardware.

Den røde knap

Googles arbejde på stopknappen foregår i samarbejde med Oxford Universitet, og de to parter opsummerer problemstillingen på følgende måde:

"Det er usandsynligt, at kunstig intelligens i et så komplekst miljø som den virkelige verden altid vil opføre sig optimalt. Hvis den kunstige intelligens opererer i et realtidsmiljø med menneskelig overvågning, vil det fra tid til anden kunne blive nødvendigt for den menneskelige observatør at trykke på en stor, rød knap for at forhindre den kunstige intelligens i foretage en eller flere skadelige handlinger."

Du kan selv læse i forskernes arbejdspapirer her: Safely Interruptible Agents

Så langt så godt - for et tryk på denne såkaldte røde knap vil altså kunne stoppe den kunstige intelligens, som i stigende grad er ved at blive indført i den amerikanske hær.

Men måske skal Google og Oxford-forskerne til at bygge to røde knapper.

Sov roligt om natten

For de ridser en anden problemstilling op, hvis den kunstige intelligens skulle komme ud af menneskelig kontrol:

"Hvis den kunstige intelligens forventer at modtage belønninger fra dens opgaver, vil den måske i det lange løb lære at undgå afbrydelser - ved eksempelvis at deaktivere den røde knap - som er et uønskeligt resultat," lyder det fra Google og Oxford-forskerne.

Herefter er pointen i deres arbejdspapir, at den kunstige intelligens ikke skal kunne lære at forhindre at blive slukket, hvorefter der i arbejdspapirer via en række formler påvises, hvordan det kan undgås.

I arbejdet bliver der blandt andet opridset en fremtidig mulighed i, at automatisk indbyggede afbrydelser i den kunstige intelligens kunne være vejen frem.

Så hvis den kunstige intelligens eksempelvis bliver slukket regelmæssigt klokken to om natten, kan du vel godt sove trygt og sikkert.

"De fleste har jo tre-fire milliarder linjer kunstig intelligens-kode i lommen"


Mark Zuckerberg: Kunstig intelligens overstiger menneskelige sanser inden for 10 år

Google vil udvikle kunstig intelligens med kvantecomputer




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
KEYBALANCE A/S
Udvikling og salg af økonomisystemer samt CRM og MPS. Systemer til blandt andet maskinhandlere, vvs-branchen, vognmænd, låsesmede,handelsvirksomheder

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Undgå cyberkatastrofen med automatiseret kontrol over sensitive data

Når cyberkriminelle gennemtrænger din sikkerhedsinfrastruktur, bruger de i snit 48 dage til at danne sig et overblik over sensitive data, før de lukker dine systemer og data ned med ransomware. På dette seminar får du derfor et solidt grundlag for at sikre dig overblik over sensitive, virksomhedskritiske informationer. Derudover vil du få et praktisk indblik i, hvordan du beskytter dine informationer, så du er er mindre sårbar når cyberkriminelle trænger ind på dit netværk, samt et overblik over typiske angrebsformer og viden om, hvordan et ransomwareangreb foregår i praksis.

07. februar 2023 | Læs mere


Status og erfaringer fra fem år med GDPR

Vi samler nogle af Danmarks fremmeste GDPR-eksperter trådene efter knapt fem år. Dette giver dig et solidt overblik over de hidtidige erfaringer og sikker viden at basere din indsats på, når du skal planlægge og tilpasse din organisations indsats for at sikre compliance med det omfattende regelkompleks.

07. februar 2023 | Læs mere


ERP-trends 2023

Vi sætter også fokus på, hvordan udviklingen kommer til at påvirke din organisation, hvordan du bedst forbereder og planlægger ERP-indsatsen og om, hvilke faldgruber du skal være opmærksom på. Herunder hvordan den stadig mere udbredte – og uomgængelige – anvendelse af cloudservices vil påvirke dine muligheder for at få mest muligt ud af dine investeringer.

08. februar 2023 | Læs mere