Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Vi har i årevis talt om selvkørende biler. Teknologisk er de blevet imponerende. Men det virkeligt vanskelige spørgsmål har hele tiden været: Hvornår tør mennesket slippe rattet?
Nu kommer en parallel problemstilling til ERP-feltet.
SAP taler nu om the Autonomous Enterprise, hvor essensen er, at AI og automatisering skaber selvstyrende forretningsprocesser. ERP tunet op med AI, der retter fejl og forbedrer arbejdsgange af sig selv.
Systemet forudser problemer og muligheder og fjerner rutinearbejde, så mennesker kan fokusere på strategi og innovation.
McKinsey taler om headless ERP, hvor kernen i ERP forbliver den samme, men den menneskelige kontakt sker i et nyt lag af AI-agenter.
Investeringer i ERP vil fortsætte, og forandringer vil gå dobbelt så hurtigt og være billigere, kan man læse i artiklen: "The end of ERP as we know it? Five ways AI is disrupting ERP".
Tør vi?
Spørgsmålet er bare: Tør vi give slip?
Forestil dig en klassisk procure-to-pay-proces.
I dag er det sådan, at ERP-systemet fortæller et menneske, at fakturaen ikke matcher indkøbsordren eller varemodtagelsen. Og medarbejderen undersøger hvorfor, kontakter nogen, vurderer afvigelsen og frigiver eller afviser fakturaen.
I morgen vil en AI-agent opdage afvigelsen, undersøge historikken, sammenholde med kontrakten og måske kontakte en anden agent og så selv træffe beslutningen, bogføre og betale.
Spørgsmålet er ikke om AI-agenter kan gøre det, men om AI-agenter skal have lov til at gøre det.
ERP vendt på hovedet
Ideen om et selvkørende ERP-system vender hele ERP-diskussionen på hovedet. Vi har brugt årtier på at designe processer, roller, kontroller, godkendelsesgrænser, fire-øjne-principper, autorisationer og revisionsspor.
Men hvis vi introducerer AI-agenter, der selv ræsonnerer, vælger næste handling og udfører den, så flytter vi hele fokus over på governance, sikkerhed og ansvarlighed.
Autonom ERP kommer ikke til at være enten autonomt eller ikke-autonomt. Autonomi bliver noget, virksomheder skal konfigurere.
Skal vi måske sige: Under 5.000 kroner? Kør selv. Kendt leverandør og normal afvigelse? Kør selv. Ny leverandør? Spørg et menneske. 5 millioner kroner til en bankkonto i Cayman Islands?
Du får ikke engang lov til at spørge den anden AI-agent.
I fremtidens ERP-projekt designer vi ikke bare processer og roller. Vi designer også grænserne for maskinens beslutningskompetence.
Godt nok kan agenter og assistenter betragtes som digitale kolleger med egne opgaver og adgangsrettigheder, men de besidder ikke pli, samvittighed og sund fornuft.
Skjult kompleksitet
Mennesket sætter retningen, og AI eksekverer. Meget forenklet er det SAP’s og andres bud på samspillet mellem menneske og maskine. Det lyder rigtigt og enkelt. Men bag formuleringen gemmer sig en betydelig kompleksitet.
For hvad vil det egentlig sige at sætte retningen, når et AI-loadet ERP-system nu selv skal træffe tusindvis af konkrete beslutninger?
Nogen skal altså beslutte: Denne agent må godkende hvad? Hvornår? På baggrund af hvilke data? Med hvilken sikkerhed? Op til hvilket beløb?
Under hvilke omstændigheder skal den stoppe? Hvornår skal et menneske ind over? Og hvem må ændre de regler?
Det er relativt nemt at definere, at alle indkøb over en million kræver CFO'ens godkendelse, men det kan hurtigt blive meget mere komplekst. Hvornår er kombinationen af beløb, leverandørhistorik, kontrakt, forsyningsrisiko, betalingsmønster og AI'ens egen usikkerhed ensbetydende med, at et menneske skal blandes ind i processen?
Flyets sorte boks
Og hvordan auditerer man dømmekraft?
Det klassiske revisionsspor fortæller: Peter ændrede felt X fra 100 til 120 klokken 14:32.
Den autonome verden kræver et revisionsspor, der kan forklare: Agenten ændrede X fra 100 til 120, fordi den vurderede A, B og C og konkluderede D.
Det er "Agent Trace". AI-agentens svar på flyets sorte boks.
Det bliver sandsynligvis et af de vigtigste governance-emner inden for Autonomous Enterprise de næste to-tre år.
Konfiguration. Det kan vi
Det ligner noget, vi kender alt for godt i ERP-verdenen.
Vi skal konfigurere autonomien. Det kunne være en risikobaseret tilgang til human-in-the-loop.
Graden af autonomi afhænger altså af risikoen ved den konkrete handling.
Jeg er tæt på at mene, at konfiguration af autonomi bliver til selve ERP-opgaven.
I stedet for kun at konfigurere forretningslogik, skal vi konfigurere rammerne for maskinens dømmekraft.
Fremtidens ERP-diskussion og første skridt
Marketingmaskinerne løber som altid langt foran mainstream. Det gælder også AI i ERP-markedet.
Men uanset hvor hurtigt den autonome virksomhed og "headless ERP" bliver til virkelighed, er der et par vigtige skridt, man bør og kan tage allerede nu.
For det første virker AI kun på en ren kerne af data. Datagrundlaget skal være godt og stramt.
For det andet er det logisk og nødvendigt at komme i gang med at eksperimentere med AI. Løsningerne er derude, og vi skal vælge de processer, hvor kombinationen af standardisering og volumen gør det værdifuldt at sætte en AI-agent på sagen.
Fremtidens ERP-diskussion kommer nok til at handle mindre om, hvad systemet kan - og mere om, hvilket mandat vi giver det. A
utonomien skaber ikke værdien alene, for det hele står og falder med, hvordan vi konfigurerer og integrerer det selvkørende system i virksomhedens forretningsprocesser og beslutningsstrukturer.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
