Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler

Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Artikel top billede

I det nordlige Yemen har oprørsgruppen Houthierne, der er støttet af Iran sammen med grupper som Hizbollah, brugt Claude til at assistere med at udvikle styrings- og navigationssoftware til tre våbenprogrammer, herunder et ballistisk missil med flere trin og et rækkeviddemål på over 2.000 kilometer.

Houthierne fik succes ved at skjule deres egentlige formål ved at sprede deres arbejde over flere separate sessioner. Det skriver The National News.

Derved er de lykkedes med at få Anthropics AI-model, Claude til at udvikle styrede våben i form af styrede raketter og missiler.

Altså har de anvendt Claude-modeller til at skrive styrings- og flyvekontrolsoftware til tre specifikke prorammer af missilprojekter.

Den første er en guidet raket, der er baseret på almindelig tilgængelig teknologi. Dernæst har de lavet en flertrins ballistisk missil, som er en langtrækkende missil med en påstået rækkevidde på over 2.000 kilometer.

Sidst men ikke mindst har gruppen stået bag et program med hypersoniske svæveflydende missiler, som er en teknologi, der normalt er forbeholdt verdens mest avancerede militærmagter.

Narre AI-ens filtre

Det hele er lykkedes ved at splitte opgaverne op i mange mindre bidder på tværs af forskellige samtaler for at narre AI-ens filtre.

Aktiviteten fandt sted fra december 2025 til august 2026 og involverede Claude Haiku, Sonnet og Opus.

Anthropic udgav deres rapport, Threat Intelligence i september 2026, hvor det er dokumenteret, at 'ondsindede aktører' i hemmelighed har forsøgt at omgå sikkerhedssystemerne.

Med succes. Dog nåede gruppen, ifølge Anthropic, aldrig at få et fungerende våben, men testaffyrede en guidet raket, som tilsyneladende fejlede.

Ifølge rapporten brugte gruppen Claude Code til at skrive styrings- og navigationssoftware og organiserede arbejdet med flere Claude-instanser i forskellige roller som at kode og lave research, mens mennesker ledede opgaverne.

Anthropics sikkerhedsforanstaltninger afviste mange forespørgsler, men altså ikke dem alle.

Da Anthropic opdagede aktiviteten, lukkede man kontiene og delte trusselsinformation med myndigheder og industripartnere.

På det tidspunkt havde gruppen allerede opbygget et offline simuleringsværktøj, der kan køre uden Claude eller kommercielle værktøjer som MATLAB, så en del af kapaciteten overlevede lukningen.

Annonce

Event: Computerworld Cloud & AI Festival 2027

Digital transformation | København

Eksplosiv udvikling i cloud og AI kræver overblik og viden. Computerworld samler 3.000 it-professionelle, 70+ leverandører og 120+ talere om AI, infrastruktur, data, compliance og sikkerhed. To dage med viden og netværk. Tilmeld dig nu.

22 & 23. september 2027 | Gratis deltagelse

Navnenyt fra it-Danmark

LCG har pr. 1. september 2026 ansat Thomas Wong, 47 år,  som Director of Cyber & Risk Advisory. Han skal især beskæftige sig med Ansvar for at udvikle LCG’s rådgivning inden for cybersikkerhed, cyberrisiko og GRC. Han kommer fra en stilling som VP of security hos Atea. Nyt job
Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation, har pr. 1. august 2026 ansat Maria Binger, 44 år,  som CFO. Hun skal især beskæftige sig med den finansielle styring i takt med Iduras vækst i Danmark og internationalt med fokus på blandt andet forecasting. Hun kommer fra en stilling som Director Business Finance hos Danelec. Hun er uddannet cand.merc.aud. fra Copenhagen Business School. Hun har tidligere beskæftiget sig med finance hos Agillic, Cobham SATCOM og Saxo Bank. Nyt job

Maria Binger

Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation,

Netip A/S har pr. 17. august 2026 ansat Jesper U. Sørensen som Seniorkonsulent ved netIP's kontor i Esbjerg. Han kommer fra en stilling som Chief Technology Officer hos NetSec ApS, hvor han også var partner. Nyt job