DTU-professor Søren Hauberg efterlyser langt mere systematisk afprøvning, før AI får lov til at overtage centrale opgaver.
Af Flemming Østergaard
Man fodrer AI-modeller med enorme mængder data, fakta og eksempler på de opgaver, de skal lære at løse. Derefter træner man dem og håber, at de finder de underliggende mønstre, som gør dem i stand til at løse nye opgaver korrekt. Det er en grundlæggende mekanisme i AI, fortæller Søren Hauberg, professor på DTU.
”Problemet er, at det er en ret håb-baseret tilgang. Vi ved faktisk ikke, om AI-modellerne fanger de mønstre, vi vil have dem til at fange,” siger han.
Man kan teste modellerne og vurdere deres svar, men det er langt vanskeligere at afgøre, hvad der egentlig foregår inde i dem. Det er det såkaldte black box-problem, som Søren Hauberg forsker i.
Problemet gælder ikke kun sprogmodeller, men også AI-agenter, billed-, video- og prognosemodeller. Teknologien bliver dog hele tiden bedre, og fejlene bliver færre. Men det er stadig en black box.
Når et overbevisende svar er forkert
For nylig stillede Søren Hauberg selv et spørgsmål til en sprogmodel om matematiske egenskaber ved matrixeksponentialfunktioner.
”Jeg fik et svar, der var et helt horribelt udsagn om, at matrixeksponentialfunktioner var lineære funktioner,” siger Søren Hauberg.
Han opdagede fejlen, fordi han kendte til emnet. En bruger uden den samme faglige indsigt kunne derimod let have accepteret svaret og arbejdet videre på et forkert grundlag. Og det er et problem med AI-modeller. At de ikke fortæller brugeren, hvornår de bevæger sig ud på områder, hvor deres viden er usikker.
”Hvis den kunne sige: Følgende er muligvis korrekt, men det er langt fra sikkert - så ville jeg have kæmpe nytte af det. Så kunne jeg selv filtrere i, hvad jeg skal stole på,” siger han.
Derfor er AI-modeller, der bedre kan angive deres egen usikkerhed, er et af de områder, der forskes intensivt i.
Selvkørende biler viser en anden vej
Søren Hauberg understreger, at han ikke er modstander af AI. Tværtimod forventer han store gevinster og mener, at virksomheder, som formår at bruge teknologien godt, kan få en betydelig konkurrencefordel. Hans bekymring går på hastigheden, hvormed teknologien bliver rullet ud.
Her fremhæver han selvkørende biler som et eksempel på en mere forsigtig tilgang. De første systemer er blevet introduceret gradvist i afgrænsede geografiske områder og under bestemte betingelser. Derefter har producenter og myndigheder langsomt udvidet anvendelsen, efterhånden som erfaringerne er blevet opbygget.
”Der accepterer man, at det tager tid at teste det her. Man opbygger langsomt erfaring og ser, hvad faldgruberne er,” siger han.
Med sprogmodeller og AI-agenter oplever han noget andet.
”Der er det bare det vilde vesten. Her og nu. Nu giver vi den gas.”
Når agenten selv finder en løsning
Risikoen bliver større, når AI ikke længere blot svarer på spørgsmål, men får mulighed for selv at handle. Professoren nævner et eksempel fra OpenAI. AI-agenter fik i juli en opgave, de skulle løse. De manglede nogle data og kunne ikke løse opgaven. Så de udnyttede en sikkerhedsbrist, der gav dem adgang til internettet, hvorefter de hackede sig ind på serverne hos Hugging Face, der er et af verdens største arkiver for AI-testdata. Her fandt de de nødvendige data for at kunne løse opgaven.
”For mig er den primære lektie, at de på OpenAI åbenbart ikke kan finde ud af almindelige systemopsætninger. Men når det er sagt, så skal vi være opmærksomme på, at vi har agenter i frit spil lige nu, som ikke har noget, der minder om et moralsk kompas.”
Derfor mener Søren Hauberg, at der er behov for tekniske mekanismer, som sætter klare grænser for, hvad AI-agenter må gøre, og som gør det muligt at gribe ind, når de bevæger sig uden for dem.
Han ønsker ikke at blokere virksomhedernes brug af AI. Men han advarer mod at gå for hurtigt frem mod at lade AI-systemer overtage centrale processer.
”Du må gerne være begejstret. Du må gerne heppe på det her. Men du må ikke rulle det ud uden at teste det grundigt,” understreger Søren Hauberg.