Trump-regeringen er klar med et rammeværk, der skal give den amerikanske regering mulighed for at evaluere sikkerheden i avancerede AI-modeller.
Det oplyser Det Hvide Hus mandag aften uden dog at afsløre indholdet af rammeværket eller de parametre, modellerne skal måles efter.
Det nye rammeværk skal danne udgangspunkt for den måde, den amerikanske regering skal samarbejde med de største amerikanske AI-virksomheder på, samtidig med at det skal bidrage til at fremme både innovationen og sikkerheden i AI-branchen.
Undervejs i flere måneder
Det er et tiltag, som har været undervejs i flere måneder, men som er blevet endnu mere relevant, efter at det er kommet frem, at AI-modellerne fra både OpenAI og Anthropic ved flere lejligheder er løbet løbsk, har undsluppet lukkede miljøer og hacket sig ind i andre virksomheders systemer.
De store AI-virksomheder har arbejdet tæt sammen med Det Hvide Hus i forbindelse med udarbejdelsen af rammeværket, men virksomhederne har endnu ikke haft mulighed for at se det endelige resultat.
Donald Trump underskrev 2. juni et cybersikkerhedsdekret, der indebar, at AI-virksomheder frivilligt kan give regeringen mulighed for at granske deres modeller, 30 dage før offentligheden får adgang til dem.
”Den frivillige ramme, der blev beskrevet i præsidentdekretet af 2. juni, blev færdiggjort inden fristen,” oplyser en anonym embedsmand i Det Hvide Hus til Politico og tilføjer, at drøftelserne med AI-industrien bliver det næste skridt.
Senere i dag, tirsdag, ventes repræsentanter fra OpenAI, Anthropic og Google at skulle deltage i et møde i Det Hvide Hus om rammenetværket og AI-sikkerhed.
