Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Fordelene ved AI må siges at være massiv: AI kan tranformere, hvordan I arbejder, konkurrerer, udvikler og servicerer kunder.
Men vi er stadig på et tidligt stadie med AI-løsninger og kunstig intelligens, og forkert og uetisk brug af AI kan få fatale konsekvenser.
Imens nye AI-løsninger brager derud ad, forsøger EU med AI Act at sikre, at vi ikke skaber AI-systemer, som gør mere skade end gavn.
De fleste virksomheder skal efterleve AI Act, og kravene deles op imellem udbydere: Dem som udvikler og stiller et AI-system til rådighed i markedet – og idriftsætter: Dem som bruger dem. Derfor er det afgørende, at alle som bruger – eller har i sinde at gøre det –sætter sig ind i lovgivningen, så de opfylder alle krav.
For jeres ansatte bruger sandsynligvis allerede AI-værktøjer. IT-afdelingen bruger AI til udvikling af jeres kernesystemer og marketing benytter en gratis version af ChatGPT til at skrive jeres marketingsmateriale.
De er begejstrede for mulighederne i AI-løsningerne, og ved du hvad? Sådan skal det være, for innovation kræver eksperimenter.
Men vi er nødt til at sikre os, at de eksperimenter sker under kontrollerede forhold: Har din virksomhed ikke en strategi for, hvordan den bruger AI-løsninger – eller selv udvikler dem – og oplæres jeres ansatte ikke i korrekt brug af AI-løsninger, så kan det både udgøre en stor risiko for virksomheden – og være på kant med loven.
Verdens første AI-lov rammer alle – ikke kun tech-giganterne
EU’s AI Act er sin første omfattende lovgivning om kunstig intelligens, og den får konsekvenser langt ud over Silicon Valley, for selvom reglerne kun håndhæves i EU, har de global rækkevidde.
Loven trådte i kraft i august 2024 og bygger på en risikobaseret tilgang: Jo større risiko et AI-system udgør, desto skrappere krav stilles der.
Det betyder alt fra totalforbud mod social scoring, som man ser det i Kina, til stram regulering af højrisiko-systemer som AI i rekruttering og kreditvurdering, hvor konsekvenserne for de mennesker, som bliver påvirket af AI-systemer, er store.
Den gælder for alle organisationer, der udvikler eller anvender AI i EU.
Dem som udvikler AI kan få bøder på op imod GDPR-niveau, og dem som benytter AI uansvarligt eller uetisk, står også til en mærkbar bødestraf.
AI Act påvirker hele organisationen
AI Act lægger mere op til et holistisk samarbejde på tværs af afdelingerne – for AI spreder sig på tværs af alle kontorerne.
Formålet er heldigvis det samme: At sikre, at AI, som udvikles, er trygge, etiske og i tråd med grundlæggende rettigheder for at beskytte mennesker og samfundet.
Hvis du søger et job, som du ikke får, skal det være fordi, at nogen var bedre end dig, og ikke fordi et AI-system fejlagtigt konkluderede noget ud fra dit CV og ansøgning.
Og for at blive compliant med AI Act kræver det en virksomhedsholistisk løsning: I har brug for legal til at fortolke reglerne, it til at implementere kontroller og rapportere incidenter, HR til at håndtere træning, operations til at integrere processer og ledelsen til at orkestrere det hele.
Eller en tilsvarende tilgang, hvor hele organisationen er inddraget, men styret fra central hånd, hvor bestyrelsen har besluttet en strategi som sætter retningslinjerne for, hvordan jeres virksomhed skal forholde sig til AI.
Din virksomhed kan med andre ord ikke blive AI Act-compliant med kun juridisk rådgivning.
Og heller ikke med it-rådgivning alene, for juridisk og operationel compliance er ikke det samme.
Man kan være juridisk compliant på papiret og operationelt non-compliant i virkeligheden – så er risikoen for at være en virksomhed, der bruger eller udvikler AI på en uetisk og ulovlig måde, stadig til stede.
Hvad ledelsen bør gøre mandag morgen
Først og fremmest skal I få kortlagt al brug af AI og få sikret: Hvilke AI-systemer bruger vi og hvilke risikoer kommer med brugen af dem? Hvilke data har de adgang til? Hvad sker der, hvis de fejler? Har udbyder af systemet eller tjenesten tilgang på dataene, som uploades?
For at sikre et holistisk risikobillede er der behov for både tekniske og ikke-tekniske ressourcer til at foretage deres vurderinger på en systematisk måde.
EU AI Act er allerede trådt i kraft og de forskellige deadlines for implementering kommer raskt.
Det er med andre ord på høje tid at komme i gang med at dokumentere all brug av AI i jeres virksomhed.
Uden det fulde overblik kan I ikke håndtere risiko effektiv eller være sikre på at undgå overtrædelse af loven.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
