Snød AI'ens sikkerhedsfiltre: Fik hjælp til at udvikle missiler

Det har vist sig at være muligt at omgå sikkerhedssystemerne hos Anthropic AI-software til at kode vitale komponenter til våbensystemer. De brugte et simpelt værktøj.

Artikel top billede

I det nordlige Yemen har oprørsgruppen Houthierne, der er støttet af Iran sammen med grupper som Hizbollah, brugt Claude til at assistere med at udvikle styrings- og navigationssoftware til tre våbenprogrammer, herunder et ballistisk missil med flere trin og et rækkeviddemål på over 2.000 kilometer.

Houthierne fik succes ved at skjule deres egentlige formål ved at sprede deres arbejde over flere separate sessioner. Det skriver The National News.

Derved er de lykkedes med at få Anthropics AI-model, Claude til at udvikle styrede våben i form af styrede raketter og missiler.

Altså har de anvendt Claude-modeller til at skrive styrings- og flyvekontrolsoftware til tre specifikke prorammer af missilprojekter.

Den første er en guidet raket, der er baseret på almindelig tilgængelig teknologi. Dernæst har de lavet en flertrins ballistisk missil, som er en langtrækkende missil med en påstået rækkevidde på over 2.000 kilometer.

Sidst men ikke mindst har gruppen stået bag et program med hypersoniske svæveflydende missiler, som er en teknologi, der normalt er forbeholdt verdens mest avancerede militærmagter.

Narre AI-ens filtre

Det hele er lykkedes ved at splitte opgaverne op i mange mindre bidder på tværs af forskellige samtaler for at narre AI-ens filtre.

Aktiviteten fandt sted fra december 2025 til august 2026 og involverede Claude Haiku, Sonnet og Opus.

Anthropic udgav deres rapport, Threat Intelligence i september 2026, hvor det er dokumenteret, at 'ondsindede aktører' i hemmelighed har forsøgt at omgå sikkerhedssystemerne.

Med succes. Dog nåede gruppen, ifølge Anthropic, aldrig at få et fungerende våben, men testaffyrede en guidet raket, som tilsyneladende fejlede.

Ifølge rapporten brugte gruppen Claude Code til at skrive styrings- og navigationssoftware og organiserede arbejdet med flere Claude-instanser i forskellige roller som at kode og lave research, mens mennesker ledede opgaverne.

Anthropics sikkerhedsforanstaltninger afviste mange forespørgsler, men altså ikke dem alle.

Da Anthropic opdagede aktiviteten, lukkede man kontiene og delte trusselsinformation med myndigheder og industripartnere.

På det tidspunkt havde gruppen allerede opbygget et offline simuleringsværktøj, der kan køre uden Claude eller kommercielle værktøjer som MATLAB, så en del af kapaciteten overlevede lukningen.

Læses lige nu

    Annonce

    Event: Computerworld Summit 2027 - København

    Digital transformation | København

    Styrk din digitale strategi med konkret brug af AI og ny teknologi. Mød 250 it-professionelle, få indsigter, løsninger og netværk på én dag. Computerworld Summit i København viser hvordan teknologi skaber forretningsværdi – her og nu.

    20. maj 2027 | Gratis deltagelse

    Navnenyt fra it-Danmark

    Norriq Danmark A/S har pr. 1. juni 2026 ansat Nikolaj Henrik Pieter Jansen som Junior Consultant. Han skal især beskæftige sig med at understøtte vores konsulenter med praktiske og analytiske opgaver på diverse kundeprojekter. Han kommer fra en stilling som Digital Advisor & Account Manager hos Twentyfour. Han er uddannet hos IT-Universitetet i København. Han har tidligere beskæftiget sig med salg og projektstyring. Nyt job

    Nikolaj Henrik Pieter Jansen

    Norriq Danmark A/S

    Netip A/S har pr. 1. august 2026 ansat Thomas B. Steffensen som Seniorkonsulent ved netIP's kontor i Thisted. Han kommer fra en stilling som Senior IT/OT Network Consultant hos Frontmatec. Nyt job
    Arctic Wolf Networks har pr. 3. august 2026 ansat Johnny Krogsboll som Head of Sales Engineering for Norden.Med base i Stockholm får han ansvaret for Arctic Wolfs samlede Sales Engineering-organisation i den nordiske region.<br /><br />Johnny Krogsboll skal være med til at udbygge Arctic Wolfs tilstedeværelse i Norden og hjælpe virksomheder og organisationer med at stå stærkere over for et stadig mere komplekst cybertrusselsbillede. Det skal blandt andet ske i tæt samarbejde med Arctic Wolfs vigtigste kanalpartnere i regionen.<br /><br />Gennem sin karriere har Johnny Krogsboll arbejdet med og rådgivet virksomheder hos blandt andre Hewlett-Packard, Trend Micro og Palo Alto Networks med fokus på at skabe konkret værdi af deres teknologiinvesteringer. Nyt job

    Johnny Krogsboll

    Arctic Wolf Networks

    Arctic Wolfs Network har pr. 1. september 2026 ansat Victor Dohlmann som Sales Director for Nordics. Nyt job

    Victor Dohlmann

    Arctic Wolfs Network