Artikel top billede

Microsofts bot-guru vil udvikle en bot, der kan bestå Turing-testen: Om få år vil vi ikke kunne skelne bots fra mennesker

Interview: Norm Judah er CTO for Microsofts Worldwide Services og han tror, at vi om få år ikke længere vil kunne skelne bots fra mennesker.

"Feminisme er en kult", "George Bush stod bag 9/11" og "Hitler havde ret". 

Det er ikke budskaber, der er taget fra en højreradikal Facebook-konto. Nej, det er budskaber som en chatbot fra Microsoft pludseligt begyndte at udspye på Twitter tidligere på året. 

Her havde folk fra de mørkeste afkroge af internettet fundet ud af udnytte en svaghed i bottens indlæringsmekanisme, der på mindre end et døgn gjorde det muligt at forvandle den ellers ganske fredsommelige bot til en fremmedfjendsk propagandamaskine. 

Var tænkt som munter optakt

Botten, der var døbt Tay, var tænkt som en munter optakt til Microsofts Build-konference. Her skulle den demonstrere de mange muligheder, som kunstig intelligens byder på. 

Men Microsoft måtte i hast trække stikket på botten, der i stedet endte med at tjene som eksempel på de risici for misbrug, der også er forbundet med kunstig intelligents. 

For nylig satte Microsofts bot-guru Norm Judah, CTO for Microsoft Worldwide Services, sig ned til en snak med Computerworld, da han kortvarigt var i Danmark. 

Norm Judah understreger, at han ikke selv har dyb nok viden om den konkrete sag med chat-robotten Tay til at vide, hvad der præcist gik galt.

Ifølge ham har hele affæren ikke blot tjent som en værdifuld lære for Microsoft, men for hele tech-branchen, hvor de fleste store virksomheder i øjeblikket satser på kunstig intelligens. 

"Episoden demonstrede, at det er muligt at gentræne en bot, og når den mulighed findes, så vil der altid være folk med dårlige intentioner, der vil forsøge at udnytte muligheden. Derfor skal vi alle være endnu bedre til identificere og håndtere det, når den slags sker. Det er en uheldig hændelse, men det er den slags hændelse, som er med til at gøre os klogere," siger han. 

Gates og Musk har advaret

Den verdensberømte fysiker Stephen Hawking, Tesla-stifteren Elon Musk og Microsofts stifter Bill Gates advarer alle mod risikoen for, at kunstig intelligens løber løbsk. 

Elon Musk er endda gået så vidt som til at kalde den for "den største eksistentielle trussel mod menneskeheden," og han anbefaler, at der bliver indført nationale og internationale reguleringer af området, der skal sikre "at vi ikke gør noget dumt". 

Norm Judah deler bekymringen.

"Jeg tror, at det lægger et ansvar på os, der arbejder med det. Vi skal arbejde efter nogle ansvarlige principper, når vi vi designer systemerne," siger han, og peger helt konkret på science-fiction-forfatteren Isaac Asimovs "tre love for robotter", der ifølge Norm Judah forsat bør fungere som en etisk rettesnor i udviklingen af kunstig intelligens.

I Asimovs love lyder det blandt andet, at en robot aldrig må skade et menneske og altid skal adlyde ordre, der er givet af mennesker.

Asimov publicerede allerede lovene i 1942, men når de i dag er mere relevante end nogensinde før, skyldes det, at udviklingen inden for kunstig intelligens nærmest er eksploderet i løbet af de seneste år

"Udviklingen indenfor kunstig intelligens går ekstremt hurtig i disse år. Det er ikke noget, der er sket 'overnight', men noget som er resultatet af mange års forskning. For fem år siden var kunstig intelligens mest noget, der blev forsket i på universiteterne, men i dag finder du det i alle mulige produkter," siger han.

Kunstig intelligens er en stor mulighed

Hos Microsoft ser man dog også nybruddet inden for kunstig intelligens som en unik forretningsmulighed, der kan ændre afgørende på den måde, som vi interagerer med vores computere på. 

Eksempelvis er det allerede i dag muligt at bruge bots med kunstig intelligens til at bestille flybilletter, hotelværelser og booke restaurantbesøg 

"Bots kan gøre funktioner tilgængelige på en langt mere simpel og naturlig måde, end det tidligere har været muligt. Det kan både være gennem talesprog eller skriftsprog, og en de ting, som du hurtigt lærer, når du bruger bots, er, at de alle er skabt med deres egen personlighed," siger han. 

Læs også: Bots er de nye lækre apps: Du skal bare tale til dem

Norm Judah forklarer, at den personlighed, botten bliver udstyret med, afspejler den kultur, som den indgår i.

En bot, der henvender sig til et indisk publikum, vil derfor ofte have en anden personlighed end en bot, der henvender sig til et amerikansk eller europæisk publikum.

Men en bots personlighed vil ofte også afspejle brandet hos den virksomhed eller organisation, som den repræsenterer. 

Målet er ifølge Norm Judah at udvikle en personlighed, der er så troværdig, at det ikke er muligt at skelne botten fra en virkelig person. 

"Så i bund og grund handler det om at udvikle en bot, der kan bestå Turing-testen, der netop handler om, hvorvidt vi kan afgøre, om vi kommunikerer med en computer eller en levende person," siger han. 

Hvornår når vi det punkt, hvor det ikke længere er muligt at skelne en bot fra et levende menneske? 

"Vi har haft bots i mange år. Hvis vi går tilbage de tidlige adventure-spil, der fandtes for 25 år siden, hvor du skrev kommandoer til hovedpersonen, så var det også en slags bot. Men det, vi har set inden for de seneste år, er, at der sket en acceleration inden for kunstig intelligens, der betyder, at det er muligt for en computer at forstå talesprog og afkode intentioner. Det vil sige, at computeren også forstår, hvad vi mener og ikke bare de ord, som vi skriver. "

"Jeg tror, at bots om tre til fem år har nået et kognitivt niveau, hvor det vil være meget svært for os at gennemskue, om vi kommunikerer med en bot eller et menneske."

Ved Microsofts udviklerkonference Build tidligere på året proklamerede Microsofts administrerende direktør Satya Nadella, at bots kan blive afløseren for den grafiske brugerflade, der siden starten af 80'erne har domineret computer-industrien. 

En vision som Norm Judah ikke overraskende deler: 

"For mig er det vigtigt, at mine computer-enheder kan hjælpe mig til at være produktiv, kommunikere og dele ting. Kan det ske på en lettere måde end ved at klikke på grafiske elementer med en mus, så gør jeg gerne det," siger han og giver et eksempel på, hvordan den nye, stemmestyrede brugerflade kan fungere. 

"Et muligt scenarie kan være, at Cortana før jeg skal møde dig, advarer mig om, at jeg bør tage afsted et kvarter tidligere, fordi vejret er dårligt og det kan påvirke trafikken. Dernæst vil den oplyse mig om, at det er første gang, at vi skal mødes, og på baggrund af data fra blandt andet LinkedIn vil den kunne briefe mig om, hvem du er, hvilke artikler du har skrevet, og hvilke kontakter vi har tilfælles," siger han.

Læs også: Microsoft: Disse små programmer bliver det helt store for os i fremtiden

Ifølge Norm Judah begynder vi dermed at se, at de digitale assistenter kommer til liv på en helt ny måde, fordi de ikke længere blot reagerer på vores kommandoer, men også begynder at assistere os af egen drift.

"Et sjovt perspektiv er, at vi har brugt de sidste 40 år på at lære folk at forstå, hvordan de bruger en computer, men nu står vi ved starten på et nyt stadie, hvor vi skal til at lære computerne at forstå mennesket," siger han. 

I hvilket omfang giver fremvæksten af et nyt interface som bots og kunstig intelligens Microsoft muligheden for at tilbageerobre noget af det, som virksomheden har tabt på mobilområdet gennem de seneste år, og hvordan ser du det udspille sig? 

"Det, jeg ser lige nu, er, at vi befinder os i re-definering af platformen, og det betyder også, at vi vil se et opbrud, hvor ikke bare Microsoft, men en lang række nye spillere får mulighed for at komme til at spille en rolle."

Vi ser, at Amazon har stor succes med sine Echo-enheder og den digitale assistent Alexa. Samtidig ser vi at også Facebook og Apple forsøger at spille en rolle på området. Hvordan ser du på konkurrencen?

"Jeg tror, at Facebook har gode muligheder for at spille en rolle her, fordi Facebook har en dyb forståelse for "samtalen." Det er sådan set essensen i, hvad Facebook er for en virksomhed, mens Amazon kommer fra en anden position. Alle de spillere, som du nævner, har deres helt egen indgangsvinkel til området. Det kan handle om produktivitet eller at sælge og købe ting. Men de udfordringer, som de alle møder, er, at én vinkel er ikke nok til at definere en platform. Det kræver, at de er i stand til at samle flere perspektiver."

Norm Judah vurderer, at fremvæksten af en ny platform ikke bare skaber muligheder for de store etablerede spillere i teknologibranchen. 

"Et sted derude sidder et lille firma, som vi ikke kender og eksperimenterer med en ny teknologi. Vi vil se, at de også får muligheden for at springe ind og gøre en forskel," siger han.

Læs også:
Microsoft tabte monopolet - men kan sagtens vinde krigen

Dansker var med til at skabe Siri: "Jeg havde tjent mange millioner, hvis jeg var blevet tre måneder længere"



Premium
Test: Duer Samsungs første Pro-pc'er til noget?
Samsung Galaxy Book Pro serien er et bevis på, at de etablerede pc-producenter får sig en formidabel udfordrer i den sydkoreanske supersværvægter.
CIO
Der findes ikke noget vigtigere for din virksomhedskultur end psychological safety
Klumme: Forskningen er entydig: Vidensarbejde er mere effektiv, når du tør stille spørgsmål, rejse kritik og indrømme fejl helt uden frygt for at blive straffet eller gjort til grin. Hvis du ikke har fokus på denne del af din virksomhedskultur, så lever din virksomhed og dine medarbejdere ikke op til deres fulde potentiale.
White paper
Har du både dine applikationer og dit hoved i skyen?
Kan du nikke ja til en eller flere af disse situationer? • I bruger mange cloud-applikationer • I logger ind fra flere lokationer • I logger ind fra flere forskellige typer af devices Så kan du få stort udbytte af at læse dette whitepaper … Hver dag tilgår, navigerer og arbejder jeres medarbejdere i de applikationer, I har liggende i ”skyen”. Antallet af cloud-baserede applikationer stiger eksplosivt, så hvordan sikrer I ADGANGEN til dem og til de data, som applikationerne indeholder? Vel at mærke uden at gå på kompromis med BRUGERVENLIGHEDEN? Løsningen er Access Management, som er hovedtemaet for dette whitepaper.