For blot få uger siden afviste den amerikanske præsident Donald Trump et opråb fra AI-industrien om at regulere udviklingen af kunstig intelligens.
Men nu kommer dele af industrien med et nyt opråb i en ny forskningsrapport, der er udarbejdet af nogle af verdens førende AI-forskere hos blandt andre OpenAI, Anthropic, Microsoft og Meta.
I rapporten opfordres verdensledere til at forhandle globale aftaler, der kan forhindre ”destabiliserende udvikling og brug af højkapacitets-AI-systemer”.
De advarer ifølge Wall Street Journal mere specifikt om, at automatiseret AI-forskning er ved at skabe en egentlig intelligenseksplosion”, hvor AI-systemerne vil være i stand til at forbedre sig selv med lynets hast.
Det betyder, at fremskridt, som mennesker ville have været årtier om at skabe, nu kan komprimeres til at tage få måneder eller mindre.
Det vil grundlæggende betyde, at AI-modeller vil kunne udvikle sig selv hurtigere, end mennesker vil være i stand til at forstå det.
Udviklingen brager afsted
Udviklingen hen imod selvforbedrende AI-systemer er allerede i fuld gang, og Anthropic har for nylig offentliggjort, at selskabets egen AI-model Claude i dag står for 26 procent af den interne forskning og udvikling.
På nogle udviklingsområder oplyser selskabet, at det Claude endda står for op mod 90 procent af udviklingen
I forbindelse med FN’s generalforsamling i sidste uge fremsatte Finlands præsident, Alexander Stubb, en deklaration, der er underskrevet af 20 lande, herunder Danmark, og som vil indebære etableringen af en international AI-myndighed, der kan sikre, at AI-udviklingen forbliver under menneskelig kontrol.
Donald Trump gentog dog i sin tale ved generalforsamlingen sin afvisning af forsøg på det, som han kalder en ”globalistisk plan” for at kontrollere kunstig intelligens.
Kendte forfattere
Rapporten er blandt andet udarbejdet af OpenAI’s chefforsker Jakub Pachocki, Anthropics medstifter Jack Clark, Microsofts chefforsker Eric Horvitz og Metas vicedirektør for AI-forskning Dawn Song.
Derudover er de såkaldte ”godfathers of AI”, Geoffrey Hinton og Yoshua Bengio, også medforfattere.
Netop Geoffrey Hinton, der har modtaget Nobelprisen i fysik for sin forskning i neurale netværk, har adskillige gange advaret i meget skarpe vendinger mod risikoen ved ukontrolleret AI-udvikling.
Han opsagde i 2023 sit job som AI-forsker hos Google og advarede dengang om, at kunstig intelligens ville udvikle sig hurtigere, end vi troede, og snart ville overgå den menneskelige intelligens.
Læs også:
