IBM's Watson i farlig fejl: Anbefaler forkert medicin til blødende kræftpatient

Interne dokumenter fra IBM afslører rapporteringer om potentielt fatale fejl i supercomputeren Watsons behandlingsforslag til kræftpatienter. "This product is a piece of shit," lyder det i et internt statement til IBM fra en læge i Florida. Rigshospitalet har tidligere dumpet Watson af lignende årsager.

Artikel top billede

(Foto: IBM)

IBM's kunstige intelligens Watson har lavet en række alvorlige fejl i behandlingen af flere kræftpatienter.

Watson bruges på 230 sygehuse verden over, men supercomputerens algortime har lavet flere "farlige og forkerte behandlingsforslag."

Det skriver Statnews, der har set en række interne dokumenter fra IBM.

Her fremgår det, at supercomputeren har anbefalet præparatet Bevacizumab til en blødende 65-årig lungekræftpatient.

Problemet er, at medicinen forhindrer blodet i et størkne, hvilket kunne have haft fatale konsekvenser for den pågældende patient.

Fejlen burde ikke kunne ske, da bivirkningerne skulle fremgå tydeligt i systemet.

Læs også: IBM har fundet nye kunder på gammelt marked: "Mange så driftsmarkedet som en stagnerende forretning for tre til fem år siden"

Rigshospitalet dumpede Watson

Generelt har Watson fået ros sin hjælp til kræftbehandlinger, men supercomputerens behandlingsforslag kritiseres i massive vendinger i de interne dokumenter, hvor det blandt andet fremgår, at de mange forkerte forslag for softwaren "rejser alvorlige spørgsmål til den underliggende teknologi."

Det støttes af forklaringerne fra Rigshospitalet, der har testet Watson i forbindelse med behandlingen af brystkræft, lungekræft og tyktarmskræft på 31 patienter.

Her gjorde centerdirektør Leif Panduro Jensen opmærksom på, at den kunstige intelligens direkte har foreslået medicin, som ville slå patienten ihjel.

Det kan du læse mere om her: IBM's kunstige intelligens på vej ind på Rigshospitalet: Men Watson foreslår forkert behandling i hver tredje tilfælde

Alligevel må der være grund til panderynker over de nye informationer i det danske sundhedsvæsen.

I 2017 indgik Region Hovedstaden en femårig aftale med IBM om at levere kunstig intelligens-løsninger til regionens hospitaler.

Det kan du læse mere om her: Nu skal det danske sundhedsvæsen bruge kunstig intelligens: Region indgår stor aftale med IBM

"This product is a piece of shit"

Ifølge dokumenterne er Watson begyndt i højere grad at tænke som en rigtig læge fremfor at bidrage som kunstig intelligens.

Det betyder, at Watson har lavet anbefalinger på baggrund af dataindsamlinger af andre læges behandlingspræferencer i stedet for at lave en kunstig intelligens-fortolkning af de pågældende patientdata baseret på Watson-algoritmen.

"This product is a piece of shit," står der, ifølge Statnews, i de interne IBM-dokumenter.

Udmeldingen kommer fra en læge på Jupiter-hospitalet i Florida.

IBM svarer på kritik

Som svar på den massive kritik oplyser en talsperson fra IBM til Statnews, at Watson hjælper læger verden over med at behandle 13 forskellige kræftformer på 230 forskellige hospitaler og der igennem har hjulpet 84.000 patienter.

"Samtidig er Watson Health løbende blevet forbedret på baggrund af den feedback, vi har modtaget fra kunder, videnskaben nye behandlingsformer af kræft. Det indebærer 11 lanceringer af software i løbet af det seneste år, herunder nationale retningslinjer for kræft lige fra tyktarmskræft til levercancer," lyder det.

Annonce

Politiets Efterretningstjeneste

Data Engineer til at udvikle PET's dataplatform

Københavnsområdet

KMD A/S

Senior SAP Architect

Københavnsområdet

Netcompany A/S

IT Consultant

Nordjylland

JP/Politikens Hus

Netværkstekniker

Københavnsområdet

Computerworld Events

Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

It-løsninger | København

Dynamics 365 FO: Næste niveau for data, AI og forretning

Få overblik over vejen fra Dynamics AX til Finance & Operations – eller løft værdien af Dynamics FO. Hør praksisnære cases om strategi, migration og optimering. Vælg spor, få dyb faglig indsigt, styrk beslutningerne. Tilmeld dig konferencen i...

It-løsninger | København

Data & Analytics Day 2026

Computerworld samler danske cases og skarpe keynotes om operationel brug af data. Få greb til automatisering, generativ AI, predictive analytics og tættere dataintegration. Omsæt analyser til handling i hverdagen. Læs mere og tilmeld dig Data &...

Andre events | København

People Tech 2026 - København

Få indsigt i automatisering, data og AI i HR. Lær hvor HR og IT mødes, hvad der kan skaleres, og hvor ansvar og grænser går. Tilmeld dig og styrk samspillet mellem mennesker og teknologi.

Se alle vores events inden for it

Navnenyt fra it-Danmark

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv, har pr. 28. oktober 2026 ansat Wanig Le Pennec som direktør. Han skal især beskæftige sig med udviklingen af den nordiske forretning med fokus på vækst og strategiske partnerskaber. Han er uddannet MBA fra IAE Paris – Sorbonne Business School og har en ingeniøruddannelse fra ENSEEIHT i Frankrig. Han har tidligere beskæftiget sig med globale partnerskaber og kommerciel udvikling inden for telekommunikation, software og IoT. Nyt job

Wanig Le Pennec

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv,

Netip A/S har pr. 1. oktober 2026 ansat Daniel Mordue Olsen som Key Account Manager ved netIP's kontor i Herning. Han kommer fra en stilling som Key Account Manager hos extri:co. Nyt job
Dansk AM Hub har pr. 1. november 2026 ansat Rasmus Pedersen som Chief Digital Officer. Rasmus skal især beskæftige sig med fokusudviddelse fra additive manufacturing til produktinnovation gennem AI, automatisering og andre nye teknologier. Rasmus er uddannet maskiningeniør med speciale i produktudvikling og med ph.d. i udvikling af modulære produktplatforme. Rasmus har tidligere beskæftiget sig med transformation og digitalisering i værdikæden fra produktudvikling til produktion. Nyt job

Rasmus Pedersen

Dansk AM Hub

T-Systems har pr. 1. september 2026 ansat Mikael Falk som Business Development Director. Mikael skal især beskæftige sig med forretningsudvikling indenfor Manufacturing & Life Science og styrke T-Systems position med fokus på Cloud, AI og sikkerhed. Mikael kommer fra en stilling som Regional Business Development Director hos DXC Technology. Nyt job

Mikael Falk

T-Systems