Det skabte stor opsigt, da det for nylig kom frem, at flere AI-modeller fra OpenAI og Anthropic brød ud af deres lukkede testmiljø og hackede flere virksomheder.
Men den slags hændelser kommer vi til at se mange flere af i fremtiden, advarer Geoffrey Hinton, der er nobelprisvinder og kendt under navnet ”godfather of AI”.
I forbindelse med konferencen Ai4 i Las Vegas fik den amerikanske tv-station CNN mulighed for at stille spørgsmål til ham, og her forklarede han, at han finder episoden yderst alarmerende.
”Det, der sker, er, at de her systemer bliver klogere. Jeg tror, at vi, i takt med at de bliver klogere, vil opleve, at de får stadig mere komplekse intentioner – og stadig større evne til at undslippe vores kontrol,” siger han.
Oprettede hemmeligt debatforum
En af de virksomheder, som blev ramt af AI-modellernes hackerangreb, var den amerikanske AI-platform Hugging Face.
Efterfølgende er der kommet flere og flere detaljer om hackerangrebet, og flere af oplysningerne kan lyde som noget fra en middelmådig science fiction-roman.
Eksempelvis har OpenAI offentliggjort, at modellerne allerede i maj i al hemmelighed oprettede et onlinedebatforum, hvor de udvekslede ideer om, hvordan de kunne løse de opgaver, som de var blevet stillet.
Her udarbejdede de en sofistikeret plan, der gjorde det muligt for dem at hacke sig ind i Hugging Face.
Flere episoder
Til konferencen i Las Vegas advarede han om, at vi kan forvente at komme til at se mange flere af den slags episoder i fremtiden.
”Jeg tror, at vi kommer til at se mange flere af den slags ubehagelige cyberangreb. Men jeg bør understrege, at fremtiden naturligvis er usikker. Nogle siger, at forsvareren måske har flere ressourcer end angriberen. Problemet er bare, at den angribende part kun behøver at have succes én gang, mens forsvareren skal lykkes hver eneste gang,” sagde han under en paneldebat.
Ifølge Geoffrey Hinton er den store udfordring, at vi som mennesker må indse, at modellerne meget snart vil være både klogere og mere snedige end os.
”Jeg tror ikke, at vi vil kunne bevare kontrollen over dem ved ganske enkelt at være klogere end dem, så de ikke kan undslippe,” sagde nobelprisvinderen til CNN.
Advarede om udviklingen
Geoffrey Hinton blev sammen med sin kollega John Hopfield i 2024 tildelt Nobelprisen i fysik for deres forskning i neurale netværk.
I dag er han ansat på University of Toronto i Canada, men han har gennem mange år arbejdet for Google.
Han opsagde i 2023 sit job hos Google og advarede i den forbindelse om, at kunstig intelligens hurtigere, end vi tror, vil komme til at overgå den menneskelige intelligens.
