Nye vejledninger om forbudt brug af AI

EU har i AI-forordningen fastlagt, hvad virksomheder og borgere ikke må bruge kunstig intelligens til. Digitaliseringsstyrelsen har nu lavet vejledninger, der skal hjælpe virksomheder og myndigheder med at navigere indenfor forbuddene. Det skal være lettere at forstå i en dansk kontekst. 

Vejledninger for forbudt AI

Vejledningsmaterialet er inden for det område Digitaliseringsstyrelsen fører tilsyn med. De skal læses i sammenhæng med EU-Kommissionens retningslinjer om forbudte former for praksis vedrørende kunstig intelligens.

Ansigtsbilleder, vildledning og social bedømmelse

Vejledningerne indeholder:

Én hovedvejledning, der berører relevante krav for de forskellige forbud

Fem konkrete vejledninger der går i dybden med:

• skadelig manipulation og vildledning (artikel 5, stk. 1, litra a).
• skadelig udnyttelse af særlige sårbarheder (artikel 5, stk. 1, litra b).
• social bedømmelse (artikel 5, stk. 1, litra c).
• ikkemålrettet indsamling af ansigtsbilleder til at udvikle ansigtsgenkendelsesdatabaser (artikel 5, stk. 1, litra e).
• følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner (artikel 5, stk. 1, litra f).

Vejledningerne har fiktive cases, som kan bruges til at vurdere, hvorvidt en konkret praksis er forbudt.

Digitaliseringsstyrelsen deler tilsynsansvaret

Digitaliseringsstyrelsen er ikke alene om at føre tilsyn med de forbudte former for AI-praksis.

Datatilsynet har ansvaret for at føre tilsyn med to forbudte former for AI-praksis, der omhandler dels AI-systemer, der anvendes til at foretage risikovurderinger af fysiske personer for at vurdere eller forudse risikoen for, at en fysisk person begår en strafbar handling, dels AI-systemer, der anvendes til biometrisk kategorisering (artikel 5, stk. 1, litra d og g).

Derudover skal Domstolsstyrelsen føre tilsyn med de forbudte former for AI-praksis i forhold til domstolenes brug af AI-systemer, når de ikke handler i deres egenskab af domstol. I sager, som omhandler domstolenes brug af AI-systemer, træffes afgørelserne af de respektive retter.