Datatilsynet bliver Danmarks nye AI-politibetjent.
Myndigheden har fået en ny og tung opgave: At sikre, at de to deciderede forbud i EU’s nye AI-forordning bliver overholdt i Danmark.
Det drejer sig om AI-forordningens artikel fem, som handler om, det man overhovedet ikke må bruge AI-systemer til.
For eksempel om teknologi, der forsøger at forudsige kriminalitet baseret på profilering.
Eller som bruger stemmer og ansigter til at udlede race, seksualitet og religion. Sådanne systemer bliver fremover ulovlige i EU, og det bliver Datatilsynets job at håndhæve reglerne herhjemme.
Opgaven lander hos en myndighed, der allerede har meget på bordet.
Sidste år modtog Datatilsynet næsten 10.000 anmeldelser om brud på persondatasikkerheden. Det er det højeste antal siden GDPR trådte i kraft.
Stage vil trykke på pauseknappen
EU’s AI-forordning er allerede blevet mødt med kritik fra techgiganter som Google og Meta, der har bedt om en pause.
Også Danmark har sammen med Sverige opfordret EU til at udsætte dele af loven. Kritikken går på, at reglerne er for uklare, og at vejledningen halter.
Men EU-Kommissionen har afvist at udskyde noget som helst.
Tidligere på måneden trådte de første dele af loven i kraft. De rammer især udviklere af store sprogmodeller som ChatGPT og Mistral, der nu skal dokumentere træningsdata, teste for bias og åbne deres systemer for ekstern kontrol.
For almindelige borgere og virksomheder træder reglerne dog først i kraft fra august næste år. Først dér bliver det muligt at klage over AI-systemer eller indberette hændelser. Indtil da er det alene op til Datatilsynet selv at tage affære.