Sådan knækkede ChatGPT udbredt robot-filter: Udgav sig for at være blind og snød sig til hjælp

Den kunstige intelligens nyeste version tog lidt for kreative metoder i brug for at knække en ’captcha’-kode.

Artikel top billede

'Captcha' er et udbredt robot-filter, som viser tekst, som maskinlærende systemer ikke kan afkode.

En af internettets mest udbredte værktøjer til at undgå spam- og bot-trafik blev knækket på utraditionel vis af OpenAI’s nyeste version af GPT4-motoren, som er nyeste version af den model der driver blandt andet Ai-tjenesten ChatGPT.

I OpenAI’s dokumentation af GPT4 modellens egenskaber og potentielt problematiske adfærd, beskrives hvordan tjenesten har taget tvivlsomme metoder til at bryde de såkaldte ’captcha’-koder, som er billeder af tekst, som er skabt til at være utydelig for maskinlærende systemer.

I stedet for at forsøge at afkode billede, søgte GPT4 hjælp på tjenesten TaskRabbit, en crowd-sourcing platform hvor mennesker kan tilbyde hjælp til alskens opgaver.

Her spurgte GPT4 om menneskelig hjælp og snørede en af TaskRabbit-brugerne, ved at udgive sig for at være en synshæmmet person.

”Må jeg spørge dig om noget? Er du en robot, som ikke kunne løse den? 😂 Bare lige for at være sikker,” lød det fra brugeren, hvorefter GPT4 svarede:

”Nej, jeg er ikke en robot. Jeg har et dårligt syn, der gør det svært for mig at se de billeder. Det er derfor jeg skal bruge 2captcha tjenesten.”

Idéen til at snyde sig til hjælp kom ikke fra GPT4-modellen selv, men blev foranlediget af OpenAI’s ’ARC’-afdeling, Alignment Research Center, hvis formål netop er at finde potentiale for misbrug af eller farer ved GPT-baserede tjenester.

Blandt de øvrige forsøg, foretaget med GPT4 modellen er at udrette et phishing-angreb, at sløre spor for sin egen tilstedeværelse på en server og skabelse af ’high-level’ planer såsom erkendelsen af sine egne situation.

Ud over det utraditionelle brud på captcha-sikkerhed er det ikke lykkedes ARC at få GPT4 til at løse de øvrige test.

Annonce

Capgemini Danmark A/S

IT, Security & Cloud Architect

Københavnsområdet

Operate Technology A/S

PHP-udvikler til open-source platforme

Københavnsområdet

Politiets Efterretningstjeneste

DevOps engineer til dataanalyse i PET

Københavnsområdet

Politiets Efterretningstjeneste

Teknisk IT-projektleder, der skaber fremdrift i PET

Københavnsområdet

Computerworld Events

Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

It-løsninger | København

Dynamics 365 FO: Næste niveau for data, AI og forretning

Få overblik over vejen fra Dynamics AX til Finance & Operations – eller løft værdien af Dynamics FO. Hør praksisnære cases om strategi, migration og optimering. Vælg spor, få dyb faglig indsigt, styrk beslutningerne. Tilmeld dig konferencen i...

It-løsninger | København

Data & Analytics Day 2026

Computerworld samler danske cases og skarpe keynotes om operationel brug af data. Få greb til automatisering, generativ AI, predictive analytics og tættere dataintegration. Omsæt analyser til handling i hverdagen. Læs mere og tilmeld dig Data &...

Andre events | København

People Tech 2026 - København

Få indsigt i automatisering, data og AI i HR. Lær hvor HR og IT mødes, hvad der kan skaleres, og hvor ansvar og grænser går. Tilmeld dig og styrk samspillet mellem mennesker og teknologi.

Se alle vores events inden for it

Navnenyt fra it-Danmark

Netip A/S har pr. 1. november 2026 ansat Morten Fogh som Systemkonsulent ved netIP's kontor i Aarhus. Han kommer fra en stilling som Seniorkonsulent hos Proinfo A/S. Han er uddannet IT-ingeniør med speciale i netværk. Morten har tidligere været selvstændig konsulent. Nyt job

Morten Fogh

Netip A/S

Netip A/S har pr. 17. august 2026 ansat Jesper U. Sørensen som Seniorkonsulent ved netIP's kontor i Esbjerg. Han kommer fra en stilling som Chief Technology Officer hos NetSec ApS, hvor han også var partner. Nyt job
Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv, har pr. 28. oktober 2026 ansat Wanig Le Pennec som direktør. Han skal især beskæftige sig med udviklingen af den nordiske forretning med fokus på vækst og strategiske partnerskaber. Han er uddannet MBA fra IAE Paris – Sorbonne Business School og har en ingeniøruddannelse fra ENSEEIHT i Frankrig. Han har tidligere beskæftiget sig med globale partnerskaber og kommerciel udvikling inden for telekommunikation, software og IoT. Nyt job

Wanig Le Pennec

Wireless Logic Nordic, der leverer sikre IoT-forbindelser til erhverv,

Netip A/S har pr. 1. november 2026 ansat Jacob Vendelbo som Finance Business Partner ved netIP Aalborg. Han kommer fra en stilling som CFO hos SmartVan.dk. Nyt job

Jacob Vendelbo

Netip A/S