21 lande fordelt over hele kloden vil have etableret en ny international AI-myndighed, som skal være med til at holde hånd i hanke med udviklingen af AI-teknologier.
Sådan lyder målsætningen i en ny deklaration, som Finland mandag har fremlagt i forbindelse med det store FN-topmøde, der i disse dage finder sted New York.
Deklarationen er blevet underskrevet af en broget skare af 20 meget forskellige lande fra hele verden, herunder Danmark, samt EU's Ursula von der Leyen.
I deklarationen fastslåes det, at AI skal 'forblive under menneskelig kontrol.'
Det foreslås også, at der oprettes en international AI-myndighed, som kan holde øje med udviklingen - i samme stil som det internationale atom-agentur holder øje med udviklingen på atom-området.
Landene anerkender fuldt ud det store potentiale, som AI rummer, når det gælder mulighederne for at højne levestandard, forskning og styrke økonomierne.
"Men den hastige udvikling af frontier AI-modeller inderholder en betydelig sikkerheds-risici, hvis den ikke håndteres på den rigtige måde," hedder det.
Den finske præsident, Alexander Stubb, siger til Politico, at han håber, at deklarationen kan være med til at forpligte AI-selskaberne til at 'udvikle transparente sikkerheds-protokoller, inklusive obligatoriske test og uafhængige evalueringer."
Ingen af de to helt store og afgørende spillere på AI-området, USA og Kina, har underskrevet deklarationen.
Donald Trump har fornylig blankt afvist enhver form for bekymring om AI-udviklingen som en hoax plantet af 'syge konspirations-teoretikere.'
Alligevel håber Alexander Stubb, at deklarationen har en betydning, når Trump torsdag skal mødes med den kinesiske præsident Xi Jinping.
"Jeg tror, at guardrails vil være i både USA's og Kinas interesse. Vores budskab er, at vi er nødt til at skride ind, hvis mennesker skal være i kontrol," siger han til mediet.
Heller ikke store europæiske lande som Frankrig, Italien og Polen har skrevet under. Det har heller ikke Storbritannien, som inden længe overtager formandsskabet for de store G20-lande.
Alexander Stubb siger, at ingen af landene er dommedags-profeter, når det gælder AI.
Men bekymringen er der - blandt andet når det gælder mulighederne for eksempelvis at anvende AI til at udvikle biologiske og kemiske våben eller at bruge AI til avancerede cyberangreb og lignende.
Men anvendt rigtigt, er mulighederne i AI til gengæld meget store, siger han. Eksempelvis når det gælder "udryddelse af sygdomme, produktivitets-forbedringer, information og mange andre ting," siger han til Politco.
Du kan læse hele A call for control of frontier AI models her.
