EU AI-forordningens forbudte praksisser (Art. 5): I kraft siden februar 2025

EU AI-forordningens artikel 5 forbyder otte AI-praksisser med uacceptabel risiko. Disse forbud gælder fra 2. februar 2025. De dækker subliminal manipulation, social scoring, realtids biometrisk identifikation i offentlige rum, følelsesregistrering på arbejde, biometrisk kategorisering der udleder følsomme egenskaber og generering af NCII/CSAM.

Forbudte praksisser er allerede lov — siden 2. februar 2025

Artikel 5 i EU AI-forordningen forbyder otte kategorier af AI-praksisser, der anses for at udgøre uacceptabel risiko. Disse forbud trådte i kraft den 2. februar 2025 — seks måneder efter at loven trådte i kraft — og gælder for alle udbydere og deployere i EU uden undtagelse. Digital Omnibus 2026 ændrede ikke disse forbud.

Håndhævelse er aktiv. Nationale markedsovervågningsmyndigheder og EU's AI-kontor har myndighed til at undersøge, pålægge forbud og opkræve bøder.

De otte forbudte praksisser

1. Subliminal manipulation

AI-systemer, der anvender teknikker, der opererer under tærsklen for menneskelig bevidsthed, for at forvrænge adfærd på måder, der forårsager eller sandsynligvis vil forårsage væsentlig skade. Dette retter sig mod AI, der udnytter kognitive skævheder, psykologiske svagheder eller ubevidste triggere til at styre adfærd mod brugernes egne interesser.

Kendetegn: manipulationen skal være under bevidst opfattelse OG forårsage (eller sandsynligvis forårsage) væsentlig skade. Overbevisende men gennemsigtig AI er ikke forbudt.

2. Udnyttelse af sårbarheder

AI, der udnytter specifikke sårbarheder hos bestemte grupper — børn, ældre, personer med handicap, dem i økonomisk nød — for at forvrænge adfærd på en måde, der forårsager eller sandsynligvis vil forårsage væsentlig skade.

3. Social scoring af offentlige myndigheder

Generelle social scoring-systemer drevet af offentlige myndigheder, der evaluerer eller klassificerer fysiske personer baseret på deres sociale adfærd eller personlige karakteristika, hvor scoring fører til skadelig behandling uden forbindelse til den sammenhæng, hvori dataene blev genereret.

Dette retter sig mod kinesiske-lignende sociale kreditsystemer. Det gælder kun for offentlige myndigheder — privatsektorens kreditvurdering inden for specifikke domæner (finansiel kreditværdighed) forbliver tilladt under Bilag III.

4. Realtids fjernbiometrisk identifikation i offentlige rum (retshåndhævelse)

Realtids fjernbiometrisk identifikation af fysiske personer i offentligt tilgængelige rum med det formål at håndhæve loven er forbudt med tre snævre undtagelser:

• Målrettet søgning efter specifikke ofre for kriminalitet (kidnapning, menneskehandel, seksuel udnyttelse)
• Forebyggelse af specifik, væsentlig og umiddelbar terrortrussel
• Identifikation af gerningsmænd til oplistede alvorlige forbrydelser, der medfører frihedsstraffe på over 3 år

Undtagelser kræver forudgående retligt eller uafhængigt administrativt godkendelse, er tids- og stedsbegrænsede og meddeles en national myndighed.

5. AI-baseret individuel kriminalitetsprognose

AI-systemer, der vurderer eller forudsiger risikoen for, at en fysisk person begår en strafbar handling, udelukkende baseret på profilering eller personlighedskarakteristika, uden reference til objektive, verificerbare fakta direkte forbundet med kriminel aktivitet.

6. Følelsesregistrering på arbejdspladsen og i uddannelsesinstitutioner

AI-systemer, der bruges til at udlede følelser hos fysiske personer på arbejdspladsen eller i uddannelsesinstitutioner, er forbudt. Undtagelser findes for medicinske formål (f.eks. smerteassessering) og sikkerhedsformål (søvnighedsdetektering for køretøjsoperatører).

7. Biometrisk kategorisering der udleder følsomme karakteristika

AI-systemer, der kategoriserer enkeltpersoner baseret på biometriske data for at udlede eller udlede race, politiske meninger, fagforeningsmedlemskab, religiøse eller filosofiske overbevisninger, seksuel orientering eller helbredsstatus, er forbudt.

Standard ansigtsgenkendelse til adgangskontrol (identifikation af hvem nogen er) er forskellig fra kategorisering (at udlede hvilken gruppe de tilhører). Sidstnævnte er forbudt.

8. Generering af NCII og CSAM

AI-systemer, der genererer eller manipulerer billede-, lyd- eller videoindhold, der udgør ikke-samtykkede intime billeder (NCII) eller seksuelt misbrug af børn (CSAM), er forbudt. Dette blev tilføjet for at adressere den specifikke skade fra generative AI-modeller i disse kategorier.

Sanktioner

Manglende overholdelse af artikel 5 medfører det højeste niveau af AI-forordningens bøder:

• €35 millioner eller 7% af den samlede globale årlige omsætning for det foregående regnskabsår, alt efter hvad der er højest
• For SMV'er og startups: det laveste af de to tal gælder

Nationale kompetente myndigheder har også beføjelser til at kræve øjeblikkelig tilbagetrækning af AI-systemet fra markedet.