Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler

Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Artikel top billede

I det nordlige Yemen har oprørsgruppen Houthierne, der er støttet af Iran sammen med grupper som Hizbollah, brugt Claude til at assistere med at udvikle styrings- og navigationssoftware til tre våbenprogrammer, herunder et ballistisk missil med flere trin og et rækkeviddemål på over 2.000 kilometer.

Houthierne fik succes ved at skjule deres egentlige formål ved at sprede deres arbejde over flere separate sessioner. Det skriver The National News.

Derved er de lykkedes med at få Anthropics AI-model, Claude til at udvikle styrede våben i form af styrede raketter og missiler.

Altså har de anvendt Claude-modeller til at skrive styrings- og flyvekontrolsoftware til tre specifikke prorammer af missilprojekter.

Den første er en guidet raket, der er baseret på almindelig tilgængelig teknologi. Dernæst har de lavet en flertrins ballistisk missil, som er en langtrækkende missil med en påstået rækkevidde på over 2.000 kilometer.

Sidst men ikke mindst har gruppen stået bag et program med hypersoniske svæveflydende missiler, som er en teknologi, der normalt er forbeholdt verdens mest avancerede militærmagter.

Narre AI-ens filtre

Det hele er lykkedes ved at splitte opgaverne op i mange mindre bidder på tværs af forskellige samtaler for at narre AI-ens filtre.

Aktiviteten fandt sted fra december 2025 til august 2026 og involverede Claude Haiku, Sonnet og Opus.

Anthropic udgav deres rapport, Threat Intelligence i september 2026, hvor det er dokumenteret, at 'ondsindede aktører' i hemmelighed har forsøgt at omgå sikkerhedssystemerne.

Med succes. Dog nåede gruppen, ifølge Anthropic, aldrig at få et fungerende våben, men testaffyrede en guidet raket, som tilsyneladende fejlede.

Ifølge rapporten brugte gruppen Claude Code til at skrive styrings- og navigationssoftware og organiserede arbejdet med flere Claude-instanser i forskellige roller som at kode og lave research, mens mennesker ledede opgaverne.

Anthropics sikkerhedsforanstaltninger afviste mange forespørgsler, men altså ikke dem alle.

Da Anthropic opdagede aktiviteten, lukkede man kontiene og delte trusselsinformation med myndigheder og industripartnere.

På det tidspunkt havde gruppen allerede opbygget et offline simuleringsværktøj, der kan køre uden Claude eller kommercielle værktøjer som MATLAB, så en del af kapaciteten overlevede lukningen.

Event: Cyber Security Festival 2026

Sikkerhed | København

Mød Danmarks skrappeste it-sikkerhedseksperter og bliv klar til at planlægge og eksekvere en operationel og effektiv cybersikkerhedsstrategi, når vi åbner dørene for +1.700 it-professionelle. Du kan glæde dig til oplæg fra mere end 70 talere og møde mere end 50 leverandører over to dage.

18 & 19. november 2026 | Gratis deltagelse

Capgemini Danmark A/S

AI Data Architect

Københavnsområdet

Zealand Business College

Faglærer til Data/IT på ZBC i Ringsted

Region Sjælland

Netcompany A/S

Linux Operations Engineer

Nordjylland

Annonce

Navnenyt fra it-Danmark

Norriq Danmark A/S har pr. 2. marts 2026 ansat Kristoffer Hyltoft Overlund som Consultant ERP. Han skal især beskæftige sig med understøtte vores kunders forretning og vækstambitioner. Han kommer fra en stilling som Salgskonsulent hos D´Wine. Han er uddannet hos Aalborg Universitet hvor hvor han har taget en cand.it, IT-ledelse. Nyt job

Kristoffer Hyltoft Overlund

Norriq Danmark A/S

Netip A/S har pr. 1. august 2026 ansat Ronni Randrup som Seniorkonsulent ved netIP's kontor i Aalborg. Han kommer fra en stilling som Operations Consultant hos Complea. Nyt job

Ronni Randrup

Netip A/S

Norriq Danmark A/S har pr. 1. juni 2026 ansat Ida Laursen som Junior Consultant. Hun skal især beskæftige sig med at understøtte vores konsulenter med praktiske og analytiske opgaver på diverse kundeprojekter. Hun kommer fra en stilling som Webassistent hos PWT Group A/S. Hun er uddannet bachelor i International Virksomhedskommunikation og er i gang med en kandidat i IT-ledelse. Hun har tidligere beskæftiget sig med kommunikation og webindhold. Nyt job

Ida Laursen

Norriq Danmark A/S

Norriq Danmark A/S har pr. 1. juli 2026 ansat Nanna-Louise Aae Kudahl som Project Manager. Hun skal især beskæftige sig med drive vores Business Central-projekter i samarbejde med resten af sine nye kollegaer i ERP. Hun kommer fra en stilling som Product Manager hos KMD A/S. Hun er uddannet på Aalborg Universitet i kommunikation og Digitale Medier og har en kandidat i IT-ledelse. Nyt job

Nanna-Louise Aae Kudahl

Norriq Danmark A/S