Den amerikanske forsvarsminister Pete Hegseth har indkaldt topchefen for AI-kometen Anthropic, som står bag AI-modellen Claude, til en alvorssamtale i Pentagon.
Anthropic ved godt, at det ikke er tale om et hyggemøde. Det bliver ikke et venskabeligt møde, men et enten leverer I eller også hopper I af potten-møde,” siger en højtstående embedsmand i Forsvarsministeriet til mediet Axios.
Mødet kommer efter, at forholdet mellem Anthropic og Forsvarsministeriet er blevet stadig mere anstrengt, efter at der er opstået tvivl om, hvad selskabet tillader, at det amerikanske militær bruger systemet til.
Stor kontrakt
Anthropic indgik i fjor en aftale til en værdi på 200 millioner dollar med det amerikanske forsvarsministerium, og Claude er lige nu den eneste AI-model, som må anvendes i de sikkerhedsgodkendte it-systemer til det amerikanske militær.
For nylig kom det frem, at modellen blev brugt i forbindelse med det amerikanske angreb mod Venezuela tidligere på året, hvor landets præsident Nicolas Maduro blev taget til fange.
Efterfølgende har det dog vist sig, at denne form for brug strider mod Anthropics brugerbetingelser, hvor det fremgår, at selskabets løsninger ikke må bruges til at facilitere vold, udvikle våben eller gennemføre masseovervågning.
Samtidig har Dario Amodei for nylig skrevet et essay, hvor han advarer om, at kunstig intelligens kan blive brugt til masseovervågning og brug i autonome våbensystemer.
Sætter hårdt mod hårdt
Det har fået den amerikanske forsvarsminister Pete Hegseth til at sætte hårdt mod hårdt, og han giver nu selskabet et ultimatum:
E nten indvilliger Anthropic i, at Claude kan anvendes til de formål, som Forsvarsministeriet ønsker, ellers risikerer selskabet at blive smidt på porten.
Eksempelvis har det været fremme, at det amerikanske forsvarsministerium ikke alene overvejer at opsige kontrakten, men også overvejer at udpege selskabet som en sikkerhedsrisiko, hvilket betyder, at selskaber, som gør forretning med forsvarsministeriet, heller ikke må anvende Anthropics løsninger.
“Forsvarsministeriets relation til Anthropic bliver i øjeblikket gransket. Vores nation kræver, at vores partnere er villige til at hjælpe vores soldater med at vinde enhver kamp. I sidste ende handler det om vores tropper og sikkerheden for det amerikanske folk,” sagde Sean Parnell, talsperson for Pentagon, for nylig til Axios.
