Apple har indført en begrænsning på antallet af potentielt farlige softwarefejl, som sikkerhedsforskere kan indrapportere til selskabets interne sikkerhedsteam.
Det sker ifølge Financial Times, fordi selskabets sikkerhedsfolk i disse måneder bliver oversvømmet af indrapporteringer fra personer, der bruger AI-modeller til at identificere fejl.
Apples eget indrapporteringssystem kom således i juni under pres fra store mængder “AI-slop”.
Der blev indsendt et stort antal rapporter om fejl, som viste sig at bygge på hallucinationer fra AI-modeller.
Påvirker hele branchen
Ifølge Financial Times er det et problem, der påvirker store dele af branchen. En lang række nye AI-værktøjer på sikkerhedsområdet opdager ganske vist reelle sikkerhedsfejl, men bidrager samtidig til en bølge af indberetninger af lav kvalitet. Mange af dem bliver indsendt af amatører, der håber på at få udbetalt belønninger fra Apples dusørprogram.
Sidste år indførte Apple en ny dusørordning, der kan udløse belønninger på op mod fem millioner dollar til personer, der identificerer de mest alvorlige og avancerede typer sikkerhedsfejl i selskabets software.
Alle indberettede fejl skal gennemgås af mennesker. Det er årsagen til, at Apple har indført kvoter i selskabets indberetningsportal. Sikkerhedsforskere, der rammer kvoten, bliver bedt om at vente 30 dage, før de igen kan indberette nye fejl.
“Med den stigende mængde AI-genererede sikkerhedsindberetninger på tværs af branchen har vi for nylig justeret, hvor mange nye rapporter en sikkerhedsforsker kan have åbne ad gangen,” oplyser Apple til Financial Times i en udtalelse.
Apple understreger dog samtidig, at sikkerhedsforskere kan anmode om at få hævet deres kvote, hvis de har opdaget kritiske fejl.
Kunne ikke indrapporertere alvorlig fejl
Financial Times har været i kontakt med det italienske it-sikkerhedsfirma Bynario, der er stiftet af tre anerkendte it-sikkerhedsforskere, som tidligere har indberettet og fået rettet fejl, de har opdaget i Apples software.
I løbet af tre uger har det italienske firma med hjælp fra OpenAIs ChatGPT indrapporteret mere end 50 fejl i den seneste udgave af macOS. Det betød, at selskabet overskred sin kvote.
En af de fejl, som selskabet derfor blev forhindret i at indrapportere, var en alvorlig såkaldt kæde af rettighedseskaleringsangreb, som kan gøre det muligt for hackere at opnå fuld kontrol over en computer.
Så sent som i sidste uge udsendte Apple en større sikkerhedsopdatering, der lappede hundredvis af fejl i Macbooks, iPhones og iPads:
