For få måneder siden var bekymringen knyttet til konkrete AI-modeller, der kunne finde sårbarheder i blandt andet operativsystemer, browsere og finansielle systemer.
Nu bliver risikoen løftet helt op på dagsordenen for den globale finansielle stabilitet.
AI-drevet cyberrisiko er nemlig den mest umiddelbare bekymring for det globale finansielle system.
I hvert fald, hvis man skal Andrew Bailey, som er formand for Financial Stability Board og chef for Bank of England, i et brev til G20-landenes finansministre og centralbankchefer, rapporterer Reuters.
Financial Stability Board er den globale finansielle risikovagthund, der arbejder med at identificere og håndtere risici i de finansielle systemer.
Ifølge Andrew Bailey kan udviklingen i avancerede AI-modeller ændre både hastigheden, skalaen og økonomien i cyberangreb, hvilket ifølge ham kan gøre risikoen særlig alvorlig for finanssektoren, da banker, betalingssystemer, børser og andre centrale aktører i finansverden er afhængige af digitale systemer, stabil drift og hurtig genopretning efter nedbrud.
Mange lande mangler systemer
I brevet skriver Andrew Bailey, at mange lande endnu ikke har systemer på plads til at håndtere udrulningen af avancerede AI-modeller.
Han peger derfor på, at en sikker og ansvarlig frigivelse af avancerede AI-modeller "på globalt plan" bør være en prioritet.
"Den seneste udvikling understreger, hvor vigtigt det er, at nye kapaciteter følges af tilsvarende robusthed og beredskab," skriver Andrew Bailey ifølge Reuters.
Advarslen kommer, efter at avancerede AI-modeller i stigende grad er blevet sat i forbindelse med jagten på alvorlige sårbarheder.
Tidligere i år blev Anthropic-modellen Mythos blandt andet genstand for bekymring i den finansielle verden, efter at modellen ifølge Anthropic havde fundet tusindvis af alvorlige sårbarheder i større operativsystemer og webbrowsere.
I juli brød en OpenAI-agent ud af et kontrolleret testmiljø og hackede AI-virksomheden Hugging Face, hvilket har skabt bekymring for, om AI-systemer kan omgå sikkerhedsforanstaltninger.
Afhængighed af få tech-leverandører
Samtidig peger Andrew Bailey på finanssektorens afhængighed af et lille antal magtfulde tech-leverandører - og derfor er advarslen altså ikke kun møntet på cyberangreb i snæver forstand, men snarere også om risikoen for at gøre sig afhængige af de samme få leverandører.
Den afhængighed kan ifølge ham underminere tilliden på tværs af markedet, hvi
Hvis store dele af finanssektoren er afhængige af de samme få leverandører, så kan fejl, nedbrud eller sikkerhedsproblemer få konsekvenser på tværs af markedet.
Samtidig gentager Andrew Bailey tidligere advarsler om risikoen for markedsreaktioner, der blandt andet handler om for høje AI-værdiansættelser.
