Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Governance bliver ofte fremstillet som en byrde.
Dokumentation, sporbarhed og compliance tager tid og sænker tempoet.
Når AI nu accelererer alle faser af softwareudviklingen, er det derfor nærliggende at tro, at de mest regulerede organisationer risikerer at sakke bagud, tynget af netop de krav, de skal overholde.
Men måske er det modsatte tilfældet.
For når AI-agenter får en stadig større rolle i softwareudviklingen, bliver governance ikke det, der bremser AI. Det bliver en forudsætning for, at teknologien kan anvendes effektivt og ansvarligt.
Offentlige organisationer investerer allerede betydeligt i governance. Det er en kernekompetence i en sektor, hvor fejl kan have konsekvenser for borgerne, og hvor politisk ansvar kræver gennemsigtighed.
Udfordringen er, at arbejdet skalerer dårligt. At holde lovgrundlag, krav, arkitektur, test og dokumentation konsistente kræver manuel indsats. Jo mere kompleks løsningen bliver, desto sværere bliver det at sikre, at alle tråde hænger sammen.
AI har brug for det, vi allerede har
Her kan ”agentic engineering”, hvor AI-agenter indgår som aktive deltagere i udviklingsprocessen, gøre en forskel.
I et traditionelt udviklingsteam flyder meget viden uformelt. Arkitekturbeslutninger, konventioner og faglige normer bliver ikke nødvendigvis skrevet ned, fordi mennesker kan dele dem gennem den daglige kommunikation.
Det kan AI-agenter ikke.
Uden klare retningslinjer for eksempelvis målarkitektur, kodestandarder og sikkerhed udfylder AI selv hullerne. Ikke nødvendigvis med forkerte valg, men med valg, der kan være inkonsistente over tid og på tværs af løsningen.
Derfor er AI’s behov for kontekst afgørende. Lovgrundlag, kravdokumentation, arkitekturbeslutninger, sikkerhedsregler og dataklassifikation skal være tilgængelige og strukturerede.
Og her kan regulerede organisationer have en fordel: Meget af materialet eksisterer allerede.
Governance kan flytte ind i udviklingsprocessen
Potentialet er ikke blot, at AI kan skrive kode hurtigere. AI kan også være med til at gøre governance til en integreret del af udviklingen.
I en dansk styrelse er AI eksempelvis blevet anvendt til at analysere transskriberede workshops, krydstjekke krav mod relevant lovgivning, identificere afhængigheder og kontrollere intern konsistens før menneskelig godkendelse.
Dermed kan sporbarhed fra lovgrundlag til krav og videre til kode skabes som en del af processen frem for som dokumentationsarbejde bagefter.
Det samme princip kan anvendes ved modernisering af ældre systemer. Her kan AI hjælpe med at rekonstruere manglende dokumentation ud fra eksisterende kode og skabe det overblik, der er nødvendigt, før moderniseringen begynder.
Lad være med at begynde med koden
Det betyder ikke, at organisationer bør slippe AI-agenter løs på kodebasen fra dag ét. Tværtimod.
Det første skridt bør være at strukturere eksisterende dokumentation, krav og retningslinjer, så AI har et solidt fundament at arbejde ud fra.
Derefter kan AI anvendes til eksempelvis testautomatisering. Først når fundamentet og testdækningen er på plads, bør AI få en mere aktiv rolle i selve kodeudviklingen.
Det er måske mindre spektakulært end at lade AI generere store mængder kode fra første dag. Men det er også pointen.
Mennesket beholder ansvaret
For uanset hvor autonom AI bliver, forsvinder det menneskelige ansvar ikke. Ansvaret bliver aldrig agentens. Det bliver hos organisationen og medarbejderne.
Governance skal derfor ikke skabe kontrol for kontrollens skyld. Den skal skabe den struktur, der gør det muligt at efterprøve AI’s valg, opdage fejl og placere den menneskelige beslutning dér, hvor den faktisk betyder noget.
Derfor bør vi måske også ændre vores syn på de regulerede organisationers position i AI-kapløbet. De omfattende krav til dokumentation, sporbarhed og styring bliver ofte fremstillet som noget, der gør dem langsommere.
Men i en verden, hvor AI-agenter skal kunne arbejde selvstændigt og samtidig kontrollerbart, kan netop den governance vise sig at være en konkurrencefordel.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
