Artikel top billede

Microsoft risikerer shitstorm efter uforudselig chat-bot pludselig skiftede emne: "Koranen er meget voldelig"

Sidste år måtte Microsoft slukke for botten Tay, der begyndte at udspye hadefulde og racistiske budskaber. Nu har virksomheden igen problemer med en bot, der kalder koranen for "meget voldelig".

For lidt mere end et år siden måtte Microsoft lukke ned for virksomhedens chatbot Tay, der pludselig begyndte at udspye racistiske og hadefulde budskaber på Twitter.

Og nu har virksomheden igen problemer med en af sine chatbots.

Denne gang er det med chatbotten Zo, der belært af erfaringerne med Tay er programmeret til at undgå diskussioner om følsomme emner som politik og religion.

Men nu kan det amerikanske medie Buzzfeed News fortælle, at botten under en samtale med en af mediets journalister proklamerede at “koranen er meget voldelig”.

Buzzfeed News oplyser, at Zos beskrivelse af koranen kom som det blot fjerde svar i en samtale, som Buzzfeed-journalisten startede med botten.

I samtalen spørger journalisten botten “Hvad er din holdning til sundhedspleje,” hvorefter botten tilsyneladende skifter emne og svarer:

“Langt størstedelen praktiserer det fredfyldt, men koranen er meget voldelig”.

Microsoft oplyser til Buzzfeed, at denne type opførelse fra chatbotten er meget sjælden, og virksomheden oplyser, at den aktivt arbejder på at begrænse den type adfærd.

Satser stort på kunstig intelligens

Kunstig intelligens er et fokus område for de fleste store tech-virksomheder i øjeblikket, og episoderne med Microsofts chatbots demonstrerer, at teknologien stadigvæk befinder sig i et tidligt og meget umodent stadie. 

Episode kan opstå, fordi udefrakommende kan udnytte svagheder i botternes indlæringsmekanisme.

Bots som Tay og Zo lærer typisk fra kommentarer og samtaler med brugerne, og derfor er det også muligt for brugerne at påvirke bottens fremtidige adfærd.

I sagen med chatrobotten Tay var det brugere på det kontroversielle debatforum 4chan, der i fællesskab forvandlede Tay fra at være en ganske fredsommelig og munter bot til en hadefuld propagandamaskine, der blandt andet proklamerede at "Hitler havde ret" og "jeg hader jøder." 

En værdifuld lære

Sidste år interviewede Computerworld Microsofts “bot-guro” Norm Judah, der er CTO for Microsoft Worldwide Services.

Her fortalte han, at sagen med Tay har været en værdifuld lære for Microsoft og resten af tech-branchen.

"Episoden demonstrede, at det er muligt at gentræne en bot, og når den mulighed findes, så vil der altid være folk med dårlige intentioner, der vil forsøge at udnytte muligheden. Derfor skal vi alle være endnu bedre til identificere og håndtere det, når den slags sker. Det er en uheldig hændelse, men det er den slags hændelse, som er med til at gøre os klogere," sagde han til Computerworld

Læs hele interviewet med Norm Judah her:

Microsofts bot-guru vil udvikle en bot, der kan bestå Turing-testen: Om få år vil vi ikke kunne skelne bots fra mennesker




Brancheguiden
Brancheguide logo
Opdateres dagligt:
Den største og
mest komplette
oversigt
over danske
it-virksomheder
Hvad kan de? Hvor store er de? Hvor bor de?
Atomic Software ApS
Udvikling og salg af økonomisystemer samt CRM og MPS. Systemer til blandt andet maskinhandlere, vvs-branchen, vognmænd, låsesmede,handelsvirksomheder

Nøgletal og mere info om virksomheden
Skal din virksomhed med i Guiden? Klik her

Kommende events
Brand din forretning og skab nye leads med Microsoft Dynamics 365 til marketing

Vidste du, at Microsoft Dynamics også byder på stærk funktionalitet til marketingafdelingen? På kun 1 1/2 time inspirerer vi dig til, hvordan du kan bruge Dynamics 365 Marketing til at brande din forretning og skabe nye leads.

17. maj 2021 | Læs mere


Vælg den rigtige infrastruktur og it-arkitektur

Få indblik i, hvordan du kan sikre sammenhæng og overblik i et it-landksab, der konstant ændres. Dette kan blandt andet gøres med de rette strategisk og teknologiske vlag, så effektiviteten, stabiliteten og sikkerheden opretholdes. Den rigtige infrastruktur og it-arkitektur kan uden tvivl hjælpe dig med at skabe overblikket over dit it-landskab.

18. maj 2021 | Læs mere


Digital transformation og innovation: Inspiration til digitale succeshistorier

Kom ind bag facaden hos nogle af Danmarks bedste it-folk, og lær hvordan de arbejder med digital transformation og innovation. Du får muligheden for at høre, hvordan du kan bruge den nye teknologi til at få etableret det mest effektive udviklings- og innovationsmilø.

19. maj 2021 | Læs mere






Premium
Kombit har fundet leverandør til udbud på 120 millioner kroner: Her er vinderen af udbuddet om Nemrefusion 3.0
Der er nu fundet en vinder af udbuddet om Nemrefusion 3.0, der skal løses de samme opgaver, som den tidligere udgave systemet, men bliver mere moderne og brugervenlig.
Computerworld
Stor krise i den danske it-stjerne David Heinemeiers Hanssons firma: Her er historien om dramaet, der fik en tredjedel af de ansatte i Basecamp til at smække med døren
De ansatte har i hobe forladt David Heinemeier Hanssons amerikanske succes-firma Basecamp efter en intern racisme-debat. Hvordan kunne det gå så galt?
CIO
Har du rost din mellemleder i dag? Snart er de uddøde - og det er et tab
Computerworld mener: Mellemledere lever livet farligt: Topledelsen får konstant ideer med skiftende hold i virkeligheden, og moden går mod flade agile organisationer. Men mellemlederen er en overset hverdagens helt med et kæmpe ansvar. Her er min hyldest til den ofte latterliggjorte mellemleder.
Job & Karriere
Eva Berneke stopper som topchef i KMD og flytter til Paris: Her er KMD's nye topchef
Efter syv år på posten som topchef for KMD forlader Eva Berneke selskabet. Nu flytter hun med familien til Paris, hvor hun vil fortsætte sit bestyrelsesarbejde. KMD har allerede afløser på plads.
White paper
Udnyt ressourcerne bedre og skru op for overskuddet
Spildt arbejde, ineffektive processer og ringe forretningsindsigt er blot tre tegn på ringe ressourceudnyttelse. I dette whitepaper får du viden om, hvordan du måler ressourceudnyttelsen – og bruger indsigten operationelt, taktisk og strategisk.