Selv om man er en af verdens største tech-firmaer, er der ingen garanti for, at it-systemerne er så sikre, som de bør være.
Det kan Meta - selskabet bag Facebook og Instagram - skrive under på efter, at en række af selskabets medarbejdere uforvarende fik adgang til en stor mængde fortrolig data efter rådgivning fra selskabets egen AI-agent.
Lækket fandt sted, da en udvikler igang med en kodeopgave spurgte en af Metas AI-agenter i et internt forum om hjælp til opgaven.
AI-agenten var straks klar med råd og vejledning, som udvikleren fulgte til punkt og prikke, skriver The Guardian.
Da han havde tastet alle opgaverne ind, som AI-agenten havde beskrevet, stod han imidlertid med åben adgang til fortrolige virksomheds-data.
Lækket var så alvorligt, at det straks fik alarmerne til at gå i selskabet, hvor it-sikkerhedsfolkene smed, hvad de havde i hænderne for at kaste sig over problemet.
Meta meddeler til avisen, at 'ingen brugerdata blev misbrugt' som følge af lækket.
Lækket er den blot seneste i en række af it-sikkerhedsmæssige probleme på grund af AI-agenterne, der meget hurtigt er begyndt at vinde indpas.
Ifølge Guardian har Amazon-folk tidligere peget på, at arbejdet med AI-agenterne går så hurtigt, at der er stor risiko for at implementere ufærdige løsninger.
Og i det er der en stor risiko, da AI-agenterne meget hastig tildeles vigtige opgaver, som de skal klare selvstændigt og uden menneskelig indblanding.
Allerede i dag findes der eksempelvis adskillige AI-agenter, som kan styre økonomi, træffe beslutninger om indkøb, lagerføring og meget andet.
Til avisen siger AI-eksperten Jamieson O'Reilly, at problemet ligger i, at AI-agenterne har introduceret en helt ny form for fejl i mange organisationer.
Det er nemlig helt naturligt at forvente, at menneskelige medarbejdere kender den sammenhæng, som de udfører deres arbejde i, men det gør en AI-agent ikke nødvendigvis.
Eksempelvis forventer vi helt naturligt, at en medarbejder ved, at man ikke bør sætte ild til en sofa for at skaffe varme til et koldt rum eller slette en vigtig og kritisk fil. fordi den kun anvendes meget lidt.
Men AI-agenterne har 'context windows,' fortæller Jamieson O'Reilly, og i dem kan der findes fejl, hvis ikke de trænes løbende.
Læs også:
