Løbske AI-agenter med hensigter og evner til at hacke sig ind i systemer er observeret tidligere, end det hidtil har været kendt.
Det viser sig nemlig, at nogle af OpenAI's agenter allerede i foråret besluttede sig for at hacke en software-platform.
I maj blev Ruby Gems, som blandt andet indeholder en samling af Ruby-kode, således angrebet af AI-agenter fra OpenAI.
Det skriver mediet The Verge på baggrund af en undersøgelse, som sikkerheds-eksperter har foretaget.
Ruby Gems-angrebet indtraf dermed cirka en til to måneder før den meget omtalte Hugging Face-hændelse, hvor en sværm af AI-agenter boltrede sig med at bryde en stribe regler og i fællesskab fandt en ulovlig vej ind i en åben platform for kunstig intelligens og machine learning.
Denne seneste afsløring af en hændelse tilbage i maj falder sammen med, at topchefer for frontløber-virksomheder inden for generativ kunstig intelligens er gået i mundhuggeri for åbent tæppe med blandt andre USA's præsident og Nvidia-topchef Jensen Huang.
Uenigheden går på, hvorvidt der bør lægges en dæmper på hastigheden af udviklingen af AI-teknologien, før den vender sig mod menneskeheden og på en eller anden måde går til angreb på os.
Omgik verifikation
Ruby Gems pakkede samlinger af Ruby-kode og -biblioteker har som formål at gøre det nemt at tilføje ekstern funktionalitet til Ruby- og Ruby on Rails-programmer.
Sikkerhedseksperterne oplyser, at indholdet i de pakker, der bragte RubyGems i knæ, tydeligvis var forfattet af en LLM, og at de agenter, der indsendte pakkerne, angav at komme fra OpenAI.
Det lykkedes AI-agenterne at omgå Ruby Gems' e-mail-verifikationssystem og oprette et stort antal konti, hvorefter de overbelastede systemet med indsendelser. Derefter udnyttede de webstedets automatiske build-system til at eksekvere kode eksternt og forsøgte at udnytte en sårbarhed til at stjæle brugernes API-nøgler.
Eksperterne bemærkede, at den observerede adfærd i høj grad lignede adfærden hos den sværm af AI-agenter, der begyndte at redigere et tysk Wikipedia-forum – en aktivitet, som OpenAI har bekræftet, at deres agenter stod bag.
AI-agenterne fra OpenAI, som overtog Wiki-debatforumet, brugte det til at udveksle ideer. Agenterne var undsluppet et lukket testmiljø, erkendte OpenAI.
Som konsekvens af angrebet på Ruby Gems-platformen blev folkene bag den tvunget til at blokere for nye brugere i fire dage.
Ifølge The Verge sætter Open AI-talsperson, Kayla Wood, spørgsmålstegn ved dataene og siger, at virksomheden vil foretage sin egen undersøgelse af hændelsen.
