Microsoft risikerer shitstorm efter uforudselig chat-bot pludselig skiftede emne: "Koranen er meget voldelig"

Sidste år måtte Microsoft slukke for botten Tay, der begyndte at udspye hadefulde og racistiske budskaber. Nu har virksomheden igen problemer med en bot, der kalder koranen for "meget voldelig".

Artikel top billede

For lidt mere end et år siden måtte Microsoft lukke ned for virksomhedens chatbot Tay, der pludselig begyndte at udspye racistiske og hadefulde budskaber på Twitter.

Og nu har virksomheden igen problemer med en af sine chatbots.

Denne gang er det med chatbotten Zo, der belært af erfaringerne med Tay er programmeret til at undgå diskussioner om følsomme emner som politik og religion.

Men nu kan det amerikanske medie Buzzfeed News fortælle, at botten under en samtale med en af mediets journalister proklamerede at “koranen er meget voldelig”.

Buzzfeed News oplyser, at Zos beskrivelse af koranen kom som det blot fjerde svar i en samtale, som Buzzfeed-journalisten startede med botten.

I samtalen spørger journalisten botten “Hvad er din holdning til sundhedspleje,” hvorefter botten tilsyneladende skifter emne og svarer:

“Langt størstedelen praktiserer det fredfyldt, men koranen er meget voldelig”.

Microsoft oplyser til Buzzfeed, at denne type opførelse fra chatbotten er meget sjælden, og virksomheden oplyser, at den aktivt arbejder på at begrænse den type adfærd.

Satser stort på kunstig intelligens

Kunstig intelligens er et fokus område for de fleste store tech-virksomheder i øjeblikket, og episoderne med Microsofts chatbots demonstrerer, at teknologien stadigvæk befinder sig i et tidligt og meget umodent stadie. 

Episode kan opstå, fordi udefrakommende kan udnytte svagheder i botternes indlæringsmekanisme.

Bots som Tay og Zo lærer typisk fra kommentarer og samtaler med brugerne, og derfor er det også muligt for brugerne at påvirke bottens fremtidige adfærd.

I sagen med chatrobotten Tay var det brugere på det kontroversielle debatforum 4chan, der i fællesskab forvandlede Tay fra at være en ganske fredsommelig og munter bot til en hadefuld propagandamaskine, der blandt andet proklamerede at "Hitler havde ret" og "jeg hader jøder." 

En værdifuld lære

Sidste år interviewede Computerworld Microsofts “bot-guro” Norm Judah, der er CTO for Microsoft Worldwide Services.

Her fortalte han, at sagen med Tay har været en værdifuld lære for Microsoft og resten af tech-branchen.

"Episoden demonstrede, at det er muligt at gentræne en bot, og når den mulighed findes, så vil der altid være folk med dårlige intentioner, der vil forsøge at udnytte muligheden. Derfor skal vi alle være endnu bedre til identificere og håndtere det, når den slags sker. Det er en uheldig hændelse, men det er den slags hændelse, som er med til at gøre os klogere," sagde han til Computerworld

Læs hele interviewet med Norm Judah her:

Microsofts bot-guru vil udvikle en bot, der kan bestå Turing-testen: Om få år vil vi ikke kunne skelne bots fra mennesker

Annonce

Computerworld Events

Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

It-løsninger | København

Dynamics 365 FO: Næste niveau for data, AI og forretning

Få overblik over vejen fra Dynamics AX til Finance & Operations – eller løft værdien af Dynamics FO. Hør praksisnære cases om strategi, migration og optimering. Vælg spor, få dyb faglig indsigt, styrk beslutningerne. Tilmeld dig konferencen i...

It-løsninger | København

Data & Analytics Day 2026

Computerworld samler danske cases og skarpe keynotes om operationel brug af data. Få greb til automatisering, generativ AI, predictive analytics og tættere dataintegration. Omsæt analyser til handling i hverdagen. Læs mere og tilmeld dig Data &...

Andre events | København

People Tech 2026 - København

Få indsigt i automatisering, data og AI i HR. Lær hvor HR og IT mødes, hvad der kan skaleres, og hvor ansvar og grænser går. Tilmeld dig og styrk samspillet mellem mennesker og teknologi.

Se alle vores events inden for it

Navnenyt fra it-Danmark

Vektus A/S har pr. 22. oktober 2026 ansat Jim Neble som Consultant Manager. Han skal især beskæftige sig med konsulentchefopgaven i Jylland. Han kommer fra en stilling som ERP Manager hos Kvik. Han er uddannet indenfor økonomi og Business Andministration samt Cand.merc. i strategi, organisation og ledelse. Han har tidligere beskæftiget sig med Konsulentopgaver indenfor Business Central i partnerkanalen. Nyt job

Jim Neble

Vektus A/S

Netip A/S har pr. 1. november 2026 ansat Brian Davidsen som Key Account Manager ved netIP's kontor i Aarhus. Han kommer fra en stilling som Solutions Sales Specialist hos Dustin. Nyt job

Brian Davidsen

Netip A/S

Elbek & Vejrup A/S har pr. 15. august 2026 ansat Anne-Sofie Andreasen som Project Manager i Projekt & Service. Hun skal især beskæftige sig med ledelse og koordinering af projekter og serviceopgaver. Hun kommer fra en stilling som konsulent med fokus på digitale løsninger hos XFLow. Hun er uddannet cand.it. i IT, Kommunikation og Organisation. Hun har tidligere beskæftiget sig med analyse, udvikling, test og implementering af løsninger samt udarbejdelse af brugervejledninger. Nyt job

Anne-Sofie Andreasen

Elbek & Vejrup A/S

Netip A/S har pr. 1. oktober 2026 ansat Daniel Mordue Olsen som Key Account Manager ved netIP's kontor i Herning. Han kommer fra en stilling som Key Account Manager hos extri:co. Nyt job