Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler

Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Artikel top billede

I det nordlige Yemen har oprørsgruppen Houthierne, der er støttet af Iran sammen med grupper som Hizbollah, brugt Claude til at assistere med at udvikle styrings- og navigationssoftware til tre våbenprogrammer, herunder et ballistisk missil med flere trin og et rækkeviddemål på over 2.000 kilometer.

Houthierne fik succes ved at skjule deres egentlige formål ved at sprede deres arbejde over flere separate sessioner. Det skriver The National News.

Derved er de lykkedes med at få Anthropics AI-model, Claude til at udvikle styrede våben i form af styrede raketter og missiler.

Altså har de anvendt Claude-modeller til at skrive styrings- og flyvekontrolsoftware til tre specifikke prorammer af missilprojekter.

Den første er en guidet raket, der er baseret på almindelig tilgængelig teknologi. Dernæst har de lavet en flertrins ballistisk missil, som er en langtrækkende missil med en påstået rækkevidde på over 2.000 kilometer.

Sidst men ikke mindst har gruppen stået bag et program med hypersoniske svæveflydende missiler, som er en teknologi, der normalt er forbeholdt verdens mest avancerede militærmagter.

Narre AI-ens filtre

Det hele er lykkedes ved at splitte opgaverne op i mange mindre bidder på tværs af forskellige samtaler for at narre AI-ens filtre.

Aktiviteten fandt sted fra december 2025 til august 2026 og involverede Claude Haiku, Sonnet og Opus.

Anthropic udgav deres rapport, Threat Intelligence i september 2026, hvor det er dokumenteret, at 'ondsindede aktører' i hemmelighed har forsøgt at omgå sikkerhedssystemerne.

Med succes. Dog nåede gruppen, ifølge Anthropic, aldrig at få et fungerende våben, men testaffyrede en guidet raket, som tilsyneladende fejlede.

Ifølge rapporten brugte gruppen Claude Code til at skrive styrings- og navigationssoftware og organiserede arbejdet med flere Claude-instanser i forskellige roller som at kode og lave research, mens mennesker ledede opgaverne.

Anthropics sikkerhedsforanstaltninger afviste mange forespørgsler, men altså ikke dem alle.

Da Anthropic opdagede aktiviteten, lukkede man kontiene og delte trusselsinformation med myndigheder og industripartnere.

På det tidspunkt havde gruppen allerede opbygget et offline simuleringsværktøj, der kan køre uden Claude eller kommercielle værktøjer som MATLAB, så en del af kapaciteten overlevede lukningen.

Computerworld Events

Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

Digital transformation | Ballerup

Computerworld Cloud & AI Festival 2026

Eksplosiv udvikling i cloud og AI kræver overblik og viden. Computerworld samler 3.000 it-professionelle, 70+ leverandører og 120+ talere om AI, infrastruktur, data, compliance og sikkerhed. To dage med viden og netværk. Tilmeld dig nu.

Digital transformation | Frederiksberg

Roundtable: AI i drift – fra eksperimenter til ansvar, værdi og kontrol

AI-initiativerne breder sig hurtigt, men skaleringen halter. Kun hver fjerde virksomhed har flyttet en større del af sine AI-eksperimenter i produktion. Computerworld samler en udvalgt kreds af CIO’er og digitale beslutningstagere til et...

Capgemini Danmark A/S

Client Partner

Midtjylland

Metroselskabet I/S

Senior IT Help Desk Specialist

Københavnsområdet

Politiets Efterretningstjeneste

Site Reliability Engineer til efterretningsanalytiske værktøjer i PET

Københavnsområdet

Annonce

Navnenyt fra it-Danmark

Norriq Danmark A/S har pr. 3. august 2026 ansat Jeppe Lindberg som Developer. Han skal især beskæftige sig med at være med til at analysere, designe og udvikle skræddersyede forretningsløsninger til vores kunder i Business Central. Han kommer fra en stilling som Business Central Developer hos Evexo. Han er uddannet hos Aalborg Universitet- Master's degree, Computer Software Engineering. Nyt job

Jeppe Lindberg

Norriq Danmark A/S

Norriq Danmark A/S har pr. 1. juni 2026 ansat Nikolaj Henrik Pieter Jansen som Junior Consultant. Han skal især beskæftige sig med at understøtte vores konsulenter med praktiske og analytiske opgaver på diverse kundeprojekter. Han kommer fra en stilling som Digital Advisor & Account Manager hos Twentyfour. Han er uddannet hos IT-Universitetet i København. Han har tidligere beskæftiget sig med salg og projektstyring. Nyt job

Nikolaj Henrik Pieter Jansen

Norriq Danmark A/S

Norriq Danmark A/S har pr. 2. marts 2026 ansat Sarah Strøyer Hove som Consultant ERP. Hun skal især beskæftige sig med de nyeste teknologiske muligheder sammen med forretningsprocesserne. Hun kommer fra en stilling som Business Controller hos NGI A/S. Hun er uddannet hos Professionshøjskolen UCN som markedsføringsøkonom og International Handel og Markedsføring. Hun har tidligere beskæftiget sig med lager og logistik. Nyt job

Sarah Strøyer Hove

Norriq Danmark A/S

Allan Hougaard, der arbejder med softwareudvikling og -arkitektur hos Sparinvest, har pr. 30. juni 2026 fuldført uddannelsen Master i it, linjen i softwarekonstruktion på Aarhus Universitet via It-vest-samarbejdet. Færdiggjort uddannelse

Allan Hougaard

Sparinvest