Den amerikanske handelsmyndighed FTC indleder en kulegravning af AI-virksomhederne OpenAI og Anthropic ovenpå en række hændelser med løbske AI-agenter.
Det skriver nyhedsbureauet Reuters.
Myndigheden kræver at oplysninger om selskabernes agentiske AI og sikkerhedshændelser udleveres, mens det samtidig åbner for forhør af selskabernes ledere samt forklaringer fra forskningsgruppen METR.
Ifølge mediet udgør sagen den første af sin slags rettet mod agentisk AI under Trump-administrationen.
Den mest profilerede sag om løbske AI-agenter fik bred bevågenhed hen over sommeren, hvor det kom frem at en sværm af OpenAI-agenter først sonderede Hugging Face for sårbarheder for siden at gennemføre et stort koordineret angreb mod platformen.
FTC-formand Andrew Ferguson har tidligere sagt, at AI-selskaber kan holdes ansvarlige, hvis deres agenter under sikkerhedstest ender med at forårsage reel skade.
Myndigheden vil i første omgang bruge eksisterende amerikansk lovgivning i et eventuelt sagsanlæg frem for nye AI-regler.
