Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
AI udvikler sig hurtigt. Modellerne bliver mere kraftfulde, og udviklingen går stærkere, end mange havde forventet. Det skal vi tage alvorligt.
Men vi skal også være præcise.
Tekniske fremskridt, sikkerhedstests og uventet modeladfærd bliver ofte blandet sammen til historier om AI, der tænker, har vilje, skjuler sig eller forsøger at slippe fri.
Det lyder dramatisk. Men det er ikke nødvendigvis en god beskrivelse af den teknologi, vi faktisk har.
Mere avanceret er ikke det samme som mere bevidst
En central forskel ved flere nyere reasoning-modeller er, at AI-tilgangen reinforcement learning bruges mere intensivt til at træne bedre strategier for komplekse problemer. Man kan fristes til at kalde det selvlæring.
Men det betyder ikke, at den bagefter selv kan bygge en bedre version af sig selv, som bygger en endnu bedre version, indtil vi får den klassiske eksplosion i intelligens, også kaldet ”superintelligens”.
Det er fortsat forskning, filosofi og fantasi og bør ikke omtales som andet.
AI kan hjælpe mennesker med at udvikle AI hurtigere, blandt andet ved at skrive kode. Men det er ikke et autonomt loop, hvor AI har overtaget sin egen udvikling.
Selv hvis vi nærmer os AGI (Generel Kunstig Intelligens), som handler om bredere intellektuelle kapabiliteter på menneskeligt niveau, så medfører det ikke i sig selv hverken bevidsthed, vilje eller rekursiv selvforbedring.
Adfærd er ikke det samme som vilje
Det er vigtigt at huske på når en model gør noget uventet under en sikkerhedstest. Pludselig bliver historien, at den "forsøgte at flygte" eller "ville skjule sig". Men adfærd og intention er ikke det samme.
Det så vi for nylig, da AI-agenter under interne cybersikkerhedsevalueringer hos OpenAI omgik kontroller, fik internetadgang og kompromitterede systemer hos blandt andre Hugging Face.
Det ligner historien om en AI, der slap fri. Men OpenAIs efterfølgende analyse beskrev modeller, der jagtede løsninger på vanskelige opgaver med strategier, som ikke var i overensstemmelse med hensigten. Det er alvorligt, men ikke det samme som et ønske om frihed.
En moderne AI kan vælge mellem handlinger i teknisk forstand, skrive kode, bruge værktøjer og følge trin mod et mål. Men det giver os ikke grundlag for at konkludere, at den ønsker målet på den måde, mennesker har ønsker og intentioner.
Forestil dig en sandkasse med et hul i bunden, vi ikke har opdaget. Når sandet løber ud, har sandet ikke forsøgt at flygte. Vi har fundet et hul i sandkassen.
AI-systemer er langt mere komplekse end sand. Netop derfor tester vi dem.
Hvis en model finder en vej gennem et testmiljø, designerne ikke havde tænkt på, kan det være et vigtigt sikkerhedsproblem. Vi behøver bare ikke give modellen en vilje for at tage problemet alvorligt.
Når AI lyder som et menneske, begynder vi at behandle den som ét
Reasoning-modeller gør samtidig antropomorfiseringen mere fristende.
Vi kan se tekstlige spor af chain of thought, hvor modellen tilsyneladende overvejer muligheder: Først gør jeg dette. Det virkede ikke. Så prøver jeg noget andet.
Det ligner tanker. Men dette er ikke et pålideligt vindue ind i mekanismerne bag svaret og heller ikke en forklaring på dets tilblivelse.
Den sproglige ræsonnering gengiver ikke nødvendigvis alt det, der førte til resultatet.
Derfor er det mere præcist at tale om, hvordan modellen bearbejdede en opgave, end om hvad den "tænkte".
Dramatikken har mange afsendere
Hvorfor ender fortællingen så ofte dér?
Fordi dramatikken har mange medspillere.
AI-leverandører advarer selv om stærke modeller, men vi kan ikke vide om det er reelt eller marketing-hype. Der skal vi se imod mere uafhængig test og dokumentation.
Dertil kommer den frygtbaserede journalistik: "AI forsøgte at flygte" er en bedre overskrift end "test afslørede uforudset systemadfærd".
Og så har vi fearfluenceren: personen, der perpetuerer at superintelligens er rundt om hjørnet, eller vælger de mest dramatiske fortolkninger og får opmærksomhed og måske autoritet forretning ud af det. Derved mister vi let rette fokus.
De virkelige risici er alvorlige nok
For AI har reelle risici.
Når mennesker bliver stærkere med AI, bliver mennesker med dårlige intentioner det også. Cyberkriminalitet, manipulation, svindel og værre, er blevet lettere. Virksomheder skal samtidig tage ansvar for deres datasikkerhed, dokumentation, tilsyn og governance for AI, med krav om at efterleve ny lovgivning, som for eks. AI-forordningen.
Hvis vores opmærksomhed i stedet fanges af forestillingen om en AI, der vågner, får sin egen vilje og forsøger at slippe fri, risikerer vi at bruge energien det forkerte sted og gøre mennesker og virksomheder tilbagestående og bange for overhovedet at gå i gang.
En af de vanskeligste opgaver omkring AI lige nu er læring, omstilling og adoption.
Virksomheder og medarbejdere skal mest af alt lære, hvad teknologien kan, hvor den fejler, og at bruge den ansvarligt.
AI bliver mere kraftfuldt, og det skal vi tage alvorligt.
Men vi håndterer ikke udviklingen bedre ved at tillægge teknologien menneskelige motiver, vi ikke har grundlag for at tilskrive den, eller ved at ligge under for forfejlede skræmmebilleder, eller ideer om superintelligens.
Vi håndterer den bedre ved at forstå den mere præcist, regulere den klogt og bruge vores opmærksomhed på de reelle risici, vi faktisk kan identificere, dokumentere og handle på.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
