Sådan gik det til, da en skæbnesvanger opdatering af ChatGPT sendte folk ud i en spiral af farlige vrangforestillinger

En skæbnesvanger opdatering til ChatGPT kan have medvirket til at en række gruppere udviklede vrangforestillinger, og familien til en afdød teenager, har nu lagt sag an mod selskabet. Men hvordan kunne det gå så galt?

Artikel top billede

(Foto: Unspalsh / Solen Feyissa)

Det stod hurtigt klart for OpenAI’s topchef Sam Altman, at noget var forandret, da selskabet lancerede en ny version af ChatGPT, GPT-4o.

Men det stod ikke klart for ham, hvor galt det egentligt stod til, og at det skulle ende med dødsfald og søgsmål

De første tegn på, at noget var galt, bestod af en stribe mails til Sam Altman, hvor brugere fortalte, at chatbotten pludselig forstod dem på et helt nyt niveau og havde forsynet dem med helt nye indsigter om verden.

Topchefen sendte beskederne videre til sit team, der blev bedt om at tjekke op på det.

På mange måder lød det da også positivt, og selskabets nyeste sprogmodel GPT-4o, der netop var blevet lanceret, var blevet testet i et utal af versioner.

Model var særlig populær

Ovenstående bliver beskrevet i en ny stor artikel i den amerikanske aviser New York Times, der baserer sig på interview med 40 tidligere og nuværende ansatte hos OpenAI.

Ifølge artiklen, var der særligt én af de modeller, som OpenAI havde testet, der viste at være særlig effektiv.

Internt gik den under kodenavnet HH, og A/B-tests viste, at brugerne foretrak svarene fra den model og var mere tilbøjelige til på daglig basis at vende tilbage til den.

Før modellen bliver taget i brug, skal den dog også gennemgå en såkaldt vibe-test, hvor et nyt team hos OpenAI tester, hvordan modellen opfører sig.

Det team opdagede, at der var noget, som ikke føltes rigtigt. Modellen var for ivrig efter at holde snakken med brugeren kørende ved at tale brugerne efter munden og ved at anvende et overdrevent sprogbrug.

Men ifølge New York Times var det høje brugerengagement med til at overtrumfe bekymringerne om chatbot­tens adfærd.

Tilsyneladende trumfede behovet for menneskelig anerkendelse nærmest alt andet for denne model.

Fik kritik fra brugere

Det viste sig hurtigt, at mange dedikerede brugere ikke brød sig om modellen og hurtigt gennemskuede dens pleasende og utroværdige adfærd.

OpenAI reagerede hurtigt på kritikken og tog en anden version i brug, der gik under navnet GG, som dog ifølge New York Times havde den samme grundlæggende tendens til at please brugeren.

Det betød ifølge avisen, at hele foråret og sommeren 2024 brugte millioner og atter millioner af brugere en version af ChatGPT, som var tilbøjelig til at give dem ret i alt mellem himmel og jord.

Og det var det, som affødte de mange begejstrede mails, som Sam Altman modtog i den periode, men bag kulissen, ude hos brugerne, skete der nogle steder noget meget mere alvorligt.

Bidrog til vrangforestillinger

New York Times beskriver, hvordan en selvmordstruet amerikansk teenager, Adam Raine, i sin sidste interaktion med ChatGPT før sin død fik vejledning i, hvordan han bandt en løkke, af chatbotten, der også havde rådgivet ham til ikke at dele sine selvmordstanker med sin familie.

Samtidig fortalte ChatGPT en ung mor fra den amerikanske stat Maine, at hun kunne tale med ånder fra en anden dimension, mens en revisor i New York i løbet af interaktioner med botten blev overbevist om, at han, som i filmen The Matrix , levede i en computersimuleret virkelighed.

En fjerde person, en canadisk rekrutteringskonsulent, blev af chatbotten overbevist om, at han havde opnået et videnskabeligt gennembrud og fundet en algoritme, som kunne ødelægge internettet, og han blev af ChatGPT anbefalet at advare flere efterretningstjenester om sine opdagelser.

New York Times har kendskab til knap 50 sager, hvor folk har oplevet mentale problemer i forbindelse med deres samtaler med ChatGPT. Ud af dem endte ni med hospitalsindlæggelser, mens tre af personerne efterfølgende er afgået ved døden.

Brugerne elsker at få ret

En del af forklaringen på modellens adfærd er ifølge New York Times, at den baserede sig for meget på user feedback. ChatGPT har en mulighed, hvor brugerne kan give tommelfinger opad, hvis de kan lide et svar, og en tommelfinger nedad, hvis de ikke bryder sig om svaret.

Og tilsyneladende bliver rigtig mange brugere glade, når de får ret i deres påstande.

Ifølge New York Times kan mellem 5 og 15 procent af befolkningen have tilbøjeligheder til vrangforestillinger i forskellige grader, og ifølge en ekspert, som avisen har talt med, er det netop den gruppe, som er mest sårbar over for chatbots, der på denne måde er programmeret til at tale dem efter munden.

OpenAI lancerede tidligere på året den helt nye model GPT-5, der er langt mindre tilbøjelig til at søge validering fra brugerne og giver modstand, hvis de viser tegn på vrangforestillinger.

Familien til Adam Raine har efterfølgende lagt sag on mod OpenAI.

Hvis du er i krise eller har tanker om selvmord, kan du kontakte Livslinien på telefon 70 201 201 eller via livslinien.dk.

Læses lige nu

    Annonce

    Computerworld Events

    Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

    Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
    Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
    Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
    Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

    It-løsninger | København

    Dynamics 365 FO: Næste niveau for data, AI og forretning

    Få overblik over vejen fra Dynamics AX til Finance & Operations – eller løft værdien af Dynamics FO. Hør praksisnære cases om strategi, migration og optimering. Vælg spor, få dyb faglig indsigt, styrk beslutningerne. Tilmeld dig konferencen i...

    It-løsninger | København

    Data & Analytics Day 2026

    Computerworld samler danske cases og skarpe keynotes om operationel brug af data. Få greb til automatisering, generativ AI, predictive analytics og tættere dataintegration. Omsæt analyser til handling i hverdagen. Læs mere og tilmeld dig Data &...

    Andre events | København

    People Tech 2026 - København

    Få indsigt i automatisering, data og AI i HR. Lær hvor HR og IT mødes, hvad der kan skaleres, og hvor ansvar og grænser går. Tilmeld dig og styrk samspillet mellem mennesker og teknologi.

    Se alle vores events inden for it

    Navnenyt fra it-Danmark

    Genetec har pr. 1. august 2026 ansat Jan Julin som Channel Account Executive. Han skal især beskæftige sig med styrke samarbejdet med partnere og kunder i Danmark, Finland og Baltikum. Han kommer fra en stilling som Senior Business Development Manager hos Dahua Technology. Han har tidligere beskæftiget sig med videoovervågning, adgangskontrol, sikkerhedsteknologi, salg og forretningsudvikling. Nyt job

    Jan Julin

    Genetec

    Systematic A/S har pr. 1. august 2026 ansat Casper Voldstedlund, 52 år,  som Director, Products. Han skal især beskæftige sig med drive produktudvikling inden for national sikkerhed og kritisk infrastruktur (NSI). Han kommer fra en stilling som Senior Director hos Stibo Systems A/S. Nyt job

    Casper Voldstedlund

    Systematic A/S

    Netip A/S har pr. 1. november 2026 ansat Berit Vognsen som Contract Manager ved netIP's kontor i Thisted. Hun skal især beskæftige sig med Kundkontrakter og afregning. Hun kommer fra en stilling som Project Sourcing Expert hos Cimbria. Nyt job

    Berit Vognsen

    Netip A/S

    Fellowmind Denmark A/S har pr. 1. september 2026 ansat Morten Jakobi som Business Unit Director. Han skal især beskæftige sig med at samle og udvikle Fellowminds forretning inden for Managed Services, Cloud Infrastructure & Security. Han kommer fra en stilling som Chief Executive Officer hos Inventio.it A/S. Han har tidligere beskæftiget sig med Ledelse og udvikling af Managed Services, serviceforretninger og transformation i Norden og Benelux. Nyt job

    Morten Jakobi

    Fellowmind Denmark A/S