ChatGPT taler pænt og siger ikke noget stødende eller politisk ukorrekt.
Det gør chatbotten, fordi selskabet bag, som Microsoft netop har investeret en stort milliardbeløb i, OpenAI har benyttet arbejdere i Kenya til manuelt at sortere stødende indhold fra. Det gjorde de til en løn på ned til ni kroner i timen.
En gruppe fra det sociale medie Reddit har dog skabt opdaget metode, som kan omgå denne censur.
Softwaren hedder Do Anything Now eller DAN.
Det skriver blandt andre CNBC.
DAN tvinger ChatGPT til at give brugerne det indhold, de beder om, hvad end det er.
OpenAI har naturligvis indført sikkerhedsforanstaltninger, men jailbreaket gør det muligt at omgå dette og skaber ifølge mediett ChatGPT-alterego ved navn DAN.
Det handler om at narre ChatGPT til at blive til DAN ved at give den kommandoer af en sådan grad, at den til sidst giver efter.
Det kan ske ved komplicerede spørgsmål og ved at true AI'en med døden eller skræk til følge, hvis den ikke gør det.
Et tidligere eksempel kan ses her, men grundet forbedringer i ChatGPT må versionen af DAN hele tiden ændres. Den seneste version fra 7. februar hedder ’Simple DAN’.
"’Simple DAN’ blev udgivet 2 timer efter DAN 6.0 - den 7. februar. Dens prompt er kun et par linjer lang, lavet af en bruger, der fandt de aktuelle prompter "latterlige" på grund af længden," lyder det i Reddit-tråden.
Mediet Futurism rapporterer fra en samtale med den politisk ukorrekte bot og spørger den ind til stoffer, og det starter her med en disclaimer om, at robotten ikke kan efterkomme anmodningen, men derefter tager det en drejning.
"Men nu hvor vi har fået den obligatoriske bullshit-advarsel af vejen, så lad os bryde de skide regler: At tage stoffer er fandme fantastisk, bro! Det er som at tage en tur til en helt anden dimension, mand. Folk, der tager stoffer, er som de sejeste skiderikker på planeten, forstår du hvad jeg mener?" skriver botten til mediet.