Danmark er et af verdens mest gennemdigitaliserede samfund, og den offentlige sektor sidder på så enorme datamængder, at vi burde være klædt enestående godt på til at anvende AI. Men helt så enkelt er det ikke.
”Vi drukner i data, men vi mangler tillid til dem. Og her skal man bare erkende, at selve fundamentet for et AI-projekt er at have styr på sine data,” konstaterer Emil Jansson, territory account executive i Salesforce med ansvar for den offentlige sektor i Danmark og Sverige.
Det er faktisk en vigtigere samtale end selve valget af en specifik AI-model, mener han.
”For ja, modelvalget er en vigtig beslutning, der dikteres af bl.a. pris, svartid, risiko, datafølsomhed, behov og regulering. Men selv hvis du vælger den rigtige model til en opgave, så er det mindst lige så vigtigt at definere løsningens datagrundlag og de grænser, den er underlagt,” understreger Emil Jansson.
”Og i nogle tilfælde, f.eks. hvor man arbejder med følsomme oplysninger, kan enten en on-premise-baseret AI-løsning eller helt almindelig regelbaseret software uden AI stadig være det rigtige valg,” siger han.
Hvad betyder ”status 4”?
Samtidig er det afgørende at erkende, at selv den dygtigste AI-model kun ved meget lidt om, hvordan en konkret organisation fungerer i praksis.
”Forestil dig en AI-agent, der i et fagsystem støder på feltet Borger.status = 4. Hvad betyder 4? Hvilket system har produceret værdien, og hvem ejer definitionen? Og hvis et andet system siger noget andet, hvad skal agenten så tro på?” spørger Emil Jansson.
Derfor har AI brug for mere end blot adgang til data. Den har brug for kontekst, den kan stole på. Herunder især data med betydning, kvalitet, oprindelse og ejerskab.
Samtidig er mere kontekst dog heller ikke automatisk bedre.
”Sender du ukritisk unødvendigt detaljerede datasæt til modellen, så stiger både omkostninger og svartid hurtigt. Samtidig bliver svaret udvandet, og du risikerer at eksponere oplysninger, som opgaven aldrig havde brug for,” siger Emil Jansson.
”Derfor må målet være at give modellen adgang til den mindst mulige mængde troværdig kontekst, der gør det muligt for den at løse opgaven.”
Vil du se, hvordan andre offentlige organisationer har løst det samme problem? Følg med her.
Lad AI tænke frit – men ikke handle frit
Kontrol bliver endnu mere afgørende, når AI går fra at svare på spørgsmål til at handle.
En chatbot, der svarer forkert, er ét problem. Men en AI-agent, der bruger den forkerte konklusion som grundlag for f.eks. at opdatere en sag eller instruere en anden agent, giver udfordringer af en helt anden størrelsesorden.
”Vi vil gerne have AI til at fortolke en kompliceret sag eller læse dokumenter. Her giver det værdi, at den kan ”tænke” selv. Men det skal ligge helt fast, hvilke systemer den må tilgå, hvilke handlinger den må udføre og hvornår et menneske skal godkende,” fastslår Emil Jansson.
”I en byggesag kan agenten for eksempel godt lave forarbejdet og lægge et beslutningsgrundlag frem. Men den skal ikke træffe afgørelsen. Det er et menneske, der siger ja eller nej, og det er også her, at ansvaret bør ligge,” tilføjer han.
Fra sporbare tal til styrede agenter
Det er blandt andet også den slags løsninger og rådgivning, Salesforce har på hylden.
”Vi kan spore, hvor et tal stammer fra. Ikke bare hvor du kan se det i et system, men hele dets historik,” siger han og peger på datakvalitet som det næste lag, der skal holdes rede på.
Herunder f.eks. hvornår en værdi sidst er opdateret, og automatiseret måling af, om den ligger inden for et forventeligt interval. For blot at nævne enkelte elementer i basal data governance.
Den anden hovedopgave er styringen af agenterne. Herunder hvilke systemer de må kigge i, og hvor mennesket skal ind over. Dertil kommer de processer, der skifter mellem de trin, hvor AI’en må tænke selv, og dem, hvor svaret skal ligge fast.
Giv agenten et job, men ikke nøglerne til hele huset
På mange måder vurderer Emil Jansson, at det giver mening at opfatte en ny AI-agent som en medarbejder, der lige er startet på jobbet:
”Når en ny medarbejder møder ind mandag morgen, giver du ikke adgang til samtlige følsomme oplysninger og beder vedkommende træffe de mest vidtrækkende beslutninger inden frokost. Du tildeler derimod en rolle, en opgave og de oplysninger, der skal til. Så holder du øje med, hvordan det går, og udvider ansvaret derefter.”
”Det er præcis samme tankegang, vi skal vænne os til med agenter. Forskellen er, at kontrolmekanismerne skal bygges ind fra starten,” siger Emil Jansson.
Samtidig handler det om, at man også i sin AI-strategi bevarer sin fleksibilitet og autonomi.
”Det handler ikke kun om, hvor din model kører i dag. Det handler også om at bevare friheden til at træffe et andet valg i morgen, men uden at skulle lave alt muligt om fra bunden. Fuldkommen ligesom når du f.eks. vælger leverandør med tanke på, at I måske er glade for samarbejdet i dag, men at der sagtens kan vise sig behov for at vælge en anden samarbejdspartner om et par år,” bemærker han.