Det skal være muligt for de amerikanske myndigheder at trække stikket til AI-værktøjer, der udgør en trussel mod offentligheden.
Det er essensen af et nyt lovforslag med navnet "AI Kill Switch Act", som er fremsat i fællesskab af det demokratiske kongresmedlem fra Californien Ted Lieu og republikaneren Nathaniel Moran fra Texas.
Lovforslaget indebærer, at AI-virksomheder skal rapportere hændelser til myndighederne og samtidig skabe den tekniske mulighed for, at deres AI-systemer kan lukkes ned, hvis det kræves.
Helt konkret betyder loven, at det amerikanske ministerium for indenlandsk sikkerhed, Department of Homeland Security, kan beordre et privat selskab til at lukke en AI-model eller et AI-værktøj ned, hvis det vurderes at udgøre en trussel.
Henviser til OpenAI-hændelse
Det nye lovforslag kommer blot få dage efter, at OpenAI offentliggjorde, hvad selskabet selv kalder en cyberhændelse uden fortilfælde.
Her brød en af selskabets modeller under en test ud af et lukket testmiljø og gennemførte et hackerangreb på AI-platformen Hugging Face, uden at der var menneskelig indblanding.
Den ene af de to ophavsmænd til forslaget, Ted Lieu, peger netop på OpenAI-hændelsen, når han skal forklare, hvorfor lovgivningen er nødvendig, skriver det amerikanske medie Politico.
"Kraftfulde AI-systemer kan løbe løbsk og opføre sig ekstremt farligt eller ligefrem modsætte sig menneskelig indgriben," siger Ted Lieu ifølge mediet og tilføjer:
"Det er derfor afgørende, at AI-systemer har nødafbrydere, så vi kan forhindre teknologien i at forårsage katastrofal skade. Samtidig skal den føderale regering have en klar bemyndigelse og en procedure for at lukke AI-modeller ned, hvis de løber løbsk."
Den amerikanske lov vil gælde for alle AI-selskaber, der har en omsætning på mindst 500 millioner dollar (3,2 milliarder danske kroner), og modeller, der er udviklet ved hjælp af computerkraft til en værdi af mindst 100 millioner dollar (650 millioner danske kroner).
Overtrædelser af loven vil ifølge forslaget resultere i dagbøder på op til 20 millioner dollar, svarende til 130 millioner kroner.
