Frontier-AI-modeller er blevet så gode til at finde sikkerhedshuller, at bankerne ikke kan følge med.
Det advarer den britiske finanstilsynsmyndighed FCA om i en ny rapport, som Financial Times omtaler.
Ifølge FCA ændrer AI både hastigheden, skalaen og måden, sårbarheder bliver opdaget på. Det skaber flaskehalse, som gør det enormt svært at følge med i den lange strøm af huller i softwaren.
Det lægger et kæmpe pres på virksomhedernes sikkerhedsafdelinger, lyder advarslen.
Det er et kendt mønster, forklarer Andrew Jones, medstifter af sikkerhedsfirmaet Adaptive Security, til mediet.
Når ny teknologi finder flere fejl, end organisationen kan nå at rette, vokser bunken af advarsler hurtigere, end nogen kan nå at patche. Og når alle fund bliver behandlet ens, går det galt: Teams jagter de små, ufarlige fejl, mens de virkelig farlige sårbarheder står urørt.
Løsningen er ifølge Andrews Jones at investere i folk og systemer, der kan rangere farligheden lige så hurtigt, som modellerne finder nye huller.
Tung teknisk gæld
Problemet er størst i bankernes ældste systemer, der er præget af teknisk gæld. De er ofte et lappeværk efter årtiers fusioner. Angribere kan allerede udnytte en ny sårbarhed i løbet af timer. Men virksomhedernes egne patching-vindue strækker sig stadig over uger eller måneder.
Det er særligt svært med gamle systemer, hvor fejlene enten er svære at rette - eller hvor man har accepteret risikoen, fordi de slet ikke kan patches såkaldt End-of-Life.
Advarslen kommer, efter at den britiske centralbankchef Andrew Bailey ifølge Financial Times har opfordret G20-landenes finansministre til strammere kontrol med AI. Han mener, det øger risikoen for et decideret markedssammenbrud.
En formaning, som den britiske centralbankchef kan få svært ved at råbe op til det kommende G20-møde. For som Computerworld tidligere har beskrevet, så er den amerikanske tilgang mere laissez faire.
Her er den officielle holdning, at politikerne skal træde i baggrunden og lave techgiganterne videreudvikle systemerne.
