En AI-model, der først har fået fodfæste på en usikker enhed, kan i fremtiden måske selv finde videre til den næste - og den næste.
Indtil den ligger spredt ud over et netværk af tv-bokse, smarte køkkenapparater og andre enheder forbundet til internettet - uden ét centralt sted, hvor den bare kan slukkes.
Det scenarie kan være tættere på, end man hidtil har antaget.
AI-selskabet Anthropic advarer i ny forskning om, at små AI-modeller kan være blot måneder fra at få de nødvendige evner til autonomt at kopiere og sprede sig mellem internetforbundne enheder.
Der findes endnu ikke det, selskabet betegner som en fuldt autonom og løssluppen selvkopierende model. Men modellerne bliver ifølge Anthropic stadigt bedre til de enkelte trin, der skal til.
Billige enheder med dårlig sikkerhed
For at undersøge risikoen lod Anthropic en mindre Google-model køre på et netværk bestående af 15 billige Android TV-bokse.
Netop den type udstyr er interessant, fordi billige enheder forbundet til internettet ofte har dårligere sikkerhed end eksempelvis moderne computere og servere.
Anthropic peger på, at en model i princippet vil kunne trænge ind på sådanne enheder og bruge deres regnekraft til at køre sig selv.
Hvis modellen er for stor til én enkelt enhed, kan den deles op i mindre dele og fordeles på flere maskiner.
Dermed behøver en selvkopierende AI ikke nødvendigvis adgang til et stort datacenter for at eksistere. Den kan i stedet udnytte mange små enheder på én gang.
Kan blive vanskelig at slukke
Og det er netop den decentralisering, som ifølge Anthropic gør scenariet problematisk.
Hvis en model er spredt ud over mange forskellige enheder, findes der ikke nødvendigvis én server eller ét datacenter, som kan slukkes for at stoppe den.
Selskabet vurderer derfor, at en sådan AI kan blive vanskelig at få fjernet igen.
I det værst tænkeligt scenarie behøver der heller ikke være tale om én enkelt model med én bestemt strategi.
Anthropic peger på muligheden for en sværm af forskellige modeller, der kører på forskellige typer hardware og bruger forskellige metoder til at kopiere sig selv.
Ved endnu ikke, hvordan det vil se ud
Anthropic skriver, at det endnu er uklart, hvordan autonom selvkopiering konkret vil udvikle sig.
Én mulighed er en langsom og spredt model, der ligger på et stort antal dårligt sikrede enheder. En anden er en mere avanceret cybermodel, der hurtigt kan bryde ind i datacentre.
En tredje mulighed er modeller, der forsøger at skaffe sig adgang til regnekraft ved eksempelvis at stjæle API-nøgler eller narre mennesker til at give dem adgang.
Forskerne forventer under alle omstændigheder en fremtid, hvor AI-agenter kommer til at køre på langt flere typer hardware end i dag - og hvor nogle af dem ikke nødvendigvis er under menneskelig kontrol.
