Europa-Parlamentet har onsdag vedtaget den første lovgivning af sin art, da de europæiske parlamentsmedlemmer stemte Artificial Intelligence Act igennem.
Den nye lovgivning skal sætte grænser for brugen af kunstig intelligens og være med til at styrke forbrugerbeskyttelse.
Loven indfører beskyttelsesforanstaltninger for almen kunstig intelligens, begrænsninger for anvendelse af biometriske identifikationssystemer af politiet, forbud mod social scoring og manipulation af brugerens sårbarheder samt ret til at klage og modtage meningsfulde forklaringer.
Det skriver Europa-Parlamentet i en pressemeddelelse.
Derudover lyder det, at formålet med loven er at beskytte fundamentale rettigheder, demokrati, retsstatsprincipper og sikre miljømæssig bæredygtighed - og skal samtidig være med til at gøre EU til en leder på AI-området.
Loven pålægger forpligtelser for kunstig intelligens baseret på potentielle risici og niveauet af indvirkning.
Parlamentets godkendelse kommer efter forhandlinger med medlemsstaterne i december 2023 og blev vedtaget med 523 stemmer for, 46 imod og 49 blanke stemmer.
Her rammer forbud
Den nye lovgivning forbyder anvendelsen af kunstig intelligens, der kan true borgernes rettigheder, der blandt andet omfatter biometriske kategoriseringssystemer baseret på følsomme karakteristika samt ukontrolleret indsamling af ansigtsfotos fra internettet eller overvågning til at oprette databaser, der kan benyttes til ansigtsgenkendelse.
Samtidig vil den nye lovgivning også forbyde det, der kaldes 'predictive policing', hvis det kun er baseret på at profilere eller vurdere personers karakteristika. Også følelsesgenkendelse på arbejdspladser og skoler forbydes. Det samme gør social scoring samt AI, der anvendes til at manipulere menneskelig adfærd.
Undtagelser for politimyndigheder
Undtagelser for retshåndhævelse gælder for biometriske identifikationssystemer, som kun kan anvendes i nøje definerede situationer og med strenge sikkerhedsforanstaltninger, lyder det.
Anvendelse af disse systemer i realtid er kun tilladt under visse betingelser, som for eksempel i tilfælde, der er begrænset tidsmæssigt og geografisk samt underlagt specifik forudgående retslig eller administrativ godkendelse.
Forpligtelser for højrisiko AI-systemer
Den nye lovgivning har også formuleret klare forpligtelser for AI-systemer, der er defineret som højrisiko-systemer, da de potentielt kan true borgernes rettigheder på forskellig vis.
Disse systemer skal vurdere og mindske risici, opretholde brugslogfiler, være gennemsigtige og præcise samt sikre menneskelig tilsyn.
Borgere vil have ret til at indgive klager over AI-systemer og modtage forklaringer om beslutninger baseret på systemer, der fungerer ved højrisiko-AI, og som på den ene eller anden måde har påvirket deres rettigheder.
Krav til gennemsigtighed
Lovgivningen fastsætter også, at generelle kunstige AI-systemer og de modeller, de bruger, skal være åbne og gennemsigtige.
Det betyder, at de skal overholde EU's ophavsret og fortælle offentligheden detaljeret om, hvordan de er blevet trænet.
De mest avancerede AI-systemer skal også være underlagt ekstra krav.
De skal blandt andet gennemgå vurderinger for at sikre, at de ikke udgør store risici, og de skal rapportere om eventuelle problemer, der opstår.
Slutteligt vil der blive etableret regulerings-sandkasser og test på nationalt plan, som være tilgængelige for store og mellemstore virksomheder samt startups, så disse får mulighed for at udvikle og træne ny AI, inden den bliver sendt ud på markedet.
Glæde og forbehold
Det vækker glæde hos flere parter, at parlamentet nu er blevet enige.
"Det er historisk, at EU som den første store spiller i verden vedtager regler for kunstig intelligens. Vi sætter en global standard, som vil påvirke og inspirere resten af verden. Men den globale konkurrence om at være førende på kunstig intelligens vindes ikke kun med regulering,” udtaler Morten Løkkegaard, gruppeformand for Venstre i Europa-Parlamentet, i en skriftlig meddelelse til Computerworld og fortsætter:
”Derfor er det afgørende for europæisk erhvervsliv, at vi også sikrer adgang til kvalificeret arbejdskraft og øger investeringer i fremtidens teknologier. Ellers taber vi konkurrencen til blandt andet USA og Kina."
Han mener, at den teknologisk udvikling udvikler sig hurtigt, og derfor skal lovprocesserne være mere effektive for at følge med.
"Den teknologiske udvikling bevæger sig så hastigt, at vi er nødt til at se på, hvordan vi gør EU's beslutnings- og lovprocesser mere effektive. Kort sagt skal vi have mere fleksibel lovgivning, især på det digitale område, så vi nemmere kan fjerne uhensigtsmæssige regler og tilføje nye, hvis teknologiens udvikling tilsiger det," udtaler han.
Erhvervslivet glæder sig også over, at aftalen er indgået.
”Det er rigtig positivt, at vi nu endelig får spillereglerne for anvendelse af AI i de europæiske lande på plads. Det vil skabe den nødvendige klarhed om vilkårene for at benytte og afprøve AI i helt konkrete projekter – både i erhvervslivet og det offentlige,” siger chef for digitaliseringspolitik i Dansk Industri, Andreas Holbak Espersen i en meddelelse.
Han har dog også forbehold.
”Når det er sagt, ligger der selvfølgelig et forløb med implementering foran os, der vil få stor betydning. Der har været meget snak om, hvilken myndighed der skal udpeges som ansvarlig i Danmark, og det er helt naturligt, fordi den tilgang, der anlægges fra myndighederne, er afgørende for mulighederne for, at vi høster gevinsterne ved teknologien,” udtaler han.
Også hos Dansk Erhverv er man glade for vedtagelsen.
“Hvis man troede, at Dansk Erhverv ville være imod regulering på området, må vi skuffe jer. Dansk Erhverv byder rent faktisk regulering på AI-området velkommen. For det er vigtig med tydelige regelsæt, for ligesom i fodbold, er spilleregler afgørende for en fair og velfungerende spil,” udtaler Nikolaj Juncher Wædegaard, branchedirektør for IT, tele og medier i Dansk Erhverv i en meddelelse og fortsætter:
”Dansk Erhverv glæder sig over, at AI-forordningen er blevet officielt vedtaget. Dansk Erhverv støtter EU's regulative rammer for kunstig intelligens og data og byder generelt bølgen af digital regulering, der er på vej ind over EU velkommen.”
Næste skridt
Lovpakken skal nu vurderes juridisk og forventes endeligt vedtaget inden udløbet af valgperioden. Loven skal også formelt godkendes af rådet.
Når loven er offentliggjort i EU’s officielle tidende, vil den være gældende 24 måneder efter dette.