Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler

Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Artikel top billede

I det nordlige Yemen har oprørsgruppen Houthierne, der er støttet af Iran sammen med grupper som Hizbollah, brugt Claude til at assistere med at udvikle styrings- og navigationssoftware til tre våbenprogrammer, herunder et ballistisk missil med flere trin og et rækkeviddemål på over 2.000 kilometer.

Houthierne fik succes ved at skjule deres egentlige formål ved at sprede deres arbejde over flere separate sessioner. Det skriver The National News.

Derved er de lykkedes med at få Anthropics AI-model, Claude til at udvikle styrede våben i form af styrede raketter og missiler.

Altså har de anvendt Claude-modeller til at skrive styrings- og flyvekontrolsoftware til tre specifikke prorammer af missilprojekter.

Den første er en guidet raket, der er baseret på almindelig tilgængelig teknologi. Dernæst har de lavet en flertrins ballistisk missil, som er en langtrækkende missil med en påstået rækkevidde på over 2.000 kilometer.

Sidst men ikke mindst har gruppen stået bag et program med hypersoniske svæveflydende missiler, som er en teknologi, der normalt er forbeholdt verdens mest avancerede militærmagter.

Narre AI-ens filtre

Det hele er lykkedes ved at splitte opgaverne op i mange mindre bidder på tværs af forskellige samtaler for at narre AI-ens filtre.

Aktiviteten fandt sted fra december 2025 til august 2026 og involverede Claude Haiku, Sonnet og Opus.

Anthropic udgav deres rapport, Threat Intelligence i september 2026, hvor det er dokumenteret, at 'ondsindede aktører' i hemmelighed har forsøgt at omgå sikkerhedssystemerne.

Med succes. Dog nåede gruppen, ifølge Anthropic, aldrig at få et fungerende våben, men testaffyrede en guidet raket, som tilsyneladende fejlede.

Ifølge rapporten brugte gruppen Claude Code til at skrive styrings- og navigationssoftware og organiserede arbejdet med flere Claude-instanser i forskellige roller som at kode og lave research, mens mennesker ledede opgaverne.

Anthropics sikkerhedsforanstaltninger afviste mange forespørgsler, men altså ikke dem alle.

Da Anthropic opdagede aktiviteten, lukkede man kontiene og delte trusselsinformation med myndigheder og industripartnere.

På det tidspunkt havde gruppen allerede opbygget et offline simuleringsværktøj, der kan køre uden Claude eller kommercielle værktøjer som MATLAB, så en del af kapaciteten overlevede lukningen.

Læses lige nu

    Annonce

    KMD A/S

    BI Consultant

    Midtjylland

    KMD A/S

    Senior Software Architect

    Københavnsområdet

    LB Forsikring

    Product Owner - Produktudvikling

    Københavnsområdet

    Computerworld Events

    Vi samler hvert år mere end 6.000 deltagere på mere end 70 events for it-professionelle.

    Ekspertindsigt – Lyt til førende specialister og virksomheder, der deler viden om den nyeste teknologi og de bedste løsninger.
    Netværk – Mød beslutningstagere, kolleger og samarbejdspartnere på tværs af brancher.
    Praktisk viden – Få konkrete cases, værktøjer og inspiration, som du kan tage direkte med hjem i organisationen.
    Aktuelle tendenser – Bliv opdateret på de vigtigste dagsordener inden for cloud, sikkerhed, data, AI og digital forretning.

    Jura | København

    Compliance Day 2026

    Computerworld samler NIS2, AI Act, DORA, GDPR og ledelsesansvar i ét skarpt program. Få styr på kravene og omsæt dem til styring, beslutninger og handling i hverdagen. Tilmeld dig Compliance Day.

    Sikkerhed | Kongens Lyngby

    Hele Danmark øver

    Digitalisering skaber både muligheder og sårbarheder. Hele Danmark Øver styrker virksomhedernes beredskab gennem praktiske øvelser, indsigt og samarbejde. Deltag og lær, hvordan din organisation står stærkere, når cyberangrebet rammer.

    Sikkerhed | Kongens Lyngby

    Årets CISO 2026

    Årets CISO 2026 hylder de sikkerhedsledere, der skaber robusthed i et sikkerhedslandskab under pres – og som formår at løfte cyber- og informationssikkerhed fra teknisk disciplin til strategisk ledelsesopgave.

    Se alle vores events inden for it

    Navnenyt fra it-Danmark

    Stine Willemoes Kondrup, Senior Project Manager hos Ascom, har pr. 22. juni 2026 fuldført uddannelsen Master i it, linjen i organisation på Aalborg Universitet via It-vest-samarbejdet. Færdiggjort uddannelse
    Elbek & Vejrup A/S har pr. 1. august 2026 ansat Nathalie Kajberg Knudsen som Supportkonsulent i Evita/Forsyning. Hun skal især beskæftige sig med support af Evita/Forsyning samt bidrage til videreudviklingen af supportsetup på Evita og Appia. Hun kommer fra en stilling som support indenfor Kundeadministration og Afregning hos KMD Easy Energy. Hun har tidligere beskæftiget sig med kørselskoordinering og kørselsledelse hos FKS Slamson og Godik. Nyt job

    Nathalie Kajberg Knudsen

    Elbek & Vejrup A/S

    Netip A/S har pr. 1. august 2026 ansat Thomas B. Steffensen som Seniorkonsulent ved netIP's kontor i Thisted. Han kommer fra en stilling som Senior IT/OT Network Consultant hos Frontmatec. Nyt job
    Genetec har pr. 1. august 2026 ansat Jan Julin som Channel Account Executive. Han skal især beskæftige sig med styrke samarbejdet med partnere og kunder i Danmark, Finland og Baltikum. Han kommer fra en stilling som Senior Business Development Manager hos Dahua Technology. Han har tidligere beskæftiget sig med videoovervågning, adgangskontrol, sikkerhedsteknologi, salg og forretningsudvikling. Nyt job

    Jan Julin

    Genetec