Artikel 5 — Förbjudna AI-metoder (EU:s AI-förordning)

Artikel 5 i förordning (EU) 2024/1689 — Förbjudna AI-metoder. Officiell text, praktisk tolkning, centrala skyldigheter och efterlevnadskonsekvenser.

Sammanfattning av den officiella texten

Artikel 5 i förordning (EU) 2024/1689 (EU:s AI-förordning) utgör hela Avdelning II och fastställer en absolut förteckning över AI-metoder som är förbjudna i hela Europeiska unionen. Förbuden riktar sig mot AI-system vars skadepotential anses vara så allvarlig att ingen riskhanteringsåtgärd eller bedömning av överensstämmelse kan göra dem acceptabla.

Artikeln förbjuder: (1) AI-system som använder subliminala tekniker bortom en persons medvetande eller avsiktligt utnyttjar psykologiska svagheter eller sårbarheter för att väsentligt förvränga beteende på ett sätt som orsakar eller sannolikt orsakar betydande skada; (2) AI-system som utnyttjar ålder, funktionsnedsättning eller socioekonomiska förhållanden för att skadligt förvränga beteende; (3) AI-system som används av offentliga myndigheter eller på deras vägnar för social poängsättning — utvärdering eller klassificering av fysiska personer utifrån socialt beteende eller slutledda personliga egenskaper — när detta leder till ogynnsam eller skadlig behandling; (4) AI-system som bedömer risken för att en person begår ett brott enbart utifrån profilering eller personlighetsdrag; (5) biometrisk fjärridentifiering av fysiska personer i realtid i allmänt tillgängliga utrymmen för brottsbekämpningsändamål, med förbehåll för begränsade och strikt kontrollerade undantag; (6) biometriska fjärrsystem i realtid eller i efterhand som används för att sluta sig till känsliga attribut såsom ras, politisk åsikt, fackföreningsmedlemskap, religiösa övertygelser eller sexuell läggning; (7) AI-system som skapar eller utökar ansiktsigenkänningsdatabaser genom icke-riktad skrapning av internet eller CCTV-material; och (8) AI-system som drar slutsatser om fysiska personers känslor i arbets- och utbildningsmiljöer, utom av säkerhetsskäl.

Vad detta innebär i praktiken

Artikel 5 drar en hård efterlevnadsgräns som berör varje organisation som utvecklar, driftsätter eller importerar AI-system till EU-marknaden, oavsett storlek eller sektor.

För teknikföretag och AI-utvecklare innebär förbuden att vissa produktkategorier helt enkelt inte lagligen kan placeras på EU-marknaden. En leverantör som marknadsför ett produktivitetsverktyg för personalstyrkan som inkluderar känsloigenkänning för att övervaka medarbetarengagemang — som flaggar stressade eller omotiverade anställda till chefer — måste ta bort eller omdesigna den funktionen före den 2 februari 2025. På samma sätt faller en detaljhandelsanalysstartup vars system slutleder kundernas sinnesstämning från ansiktsuttryck i butik inom förbudet mot känsloslutsatser i icke-säkerhetsmässiga sammanhang.

För organisationer som använder AI-verktyg från tredje part är det lika obligatoriskt med vederbörlig omsorg. En personalavdelning som driftsätter en rekryteringsplattform som utför dold psykografisk profilering för att granska kandidater riskerar gemensamt ansvar som operatör.

För offentliga myndigheter är förbudet mot social poängsättning särskilt betydelsefullt. Varje AI-system som aggregerar beteendedata — betalningshistorik, mobilitetsmönster, onlineaktivitet — för att producera ett medborgarpoäng som sedan begränsar tillgången till offentliga tjänster eller förmåner är olagligt, oavsett om systemet är tekniskt sofistikerat.

För brottsbekämpande organ kräver det snäva undantaget från förbudet mot biometrisk identifiering i realtid robusta förhandsgodkännandeförfaranden, geografiska och tidsmässiga begränsningar, obligatorisk loggning och efterhandsrapportering till nationella tillsynsmyndigheter. Ad hoc eller kontinuerligt driftsättande utan förhandsdomstols- eller administrativt godkännande är olagligt även inom undantagets räckvidd.

Organisationer bör genomföra en inventering av alla AI-system som används eller är under utveckling, kartlägga varje system mot Artikel 5:s kriterier och utan dröjsmål upphöra med förbjudna verksamheter.

Centrala skyldigheter

• Upphöra med eller aldrig driftsätta något AI-system som använder subliminala, manipulativa eller sårbarhetsutnyttjande tekniker för att förvränga mänskligt beteende på sätt som sannolikt orsakar betydande skada, utan tillgängliga undantag eller proportionalitetsavvägningar.
• Förbjuda social poängsättning av offentliga myndigheter eller enheter som agerar på deras vägnar: använd inte AI för att utvärdera eller klassificera fysiska personer för socialt beteende eller slutledda personlighetsdrag när resultatet leder till ogynnsam eller diskriminerande behandling.
• Avveckla prediktiva polisverktyg som bedömer individuell brottsrisk enbart utifrån profilering, personlighetsdrag eller tidigare association utan konkreta beteendemässiga bevis.
• Avstå från skrapning av biometriska uppgifter från internet, CCTV eller andra källor för att skapa eller utöka ansiktsigenkänningsdatabaser; befintliga databaser som byggts upp på sådana sätt får inte användas.
• Driftsätt inte AI-system som drar slutsatser om känsliga personliga attribut — ras eller etniskt ursprung, politiska åsikter, fackföreningsmedlemskap, religiösa eller filosofiska övertygelser, sexuell läggning — från biometriska eller beteendedata.
• Tillämpa strikta förhandsgodkännande- och loggningskontroller om ni verkar som brottsbekämpande myndighet och förlitar er på det snäva undantaget i Artikel 5(2)–(5) för biometrisk fjärridentifiering i realtid; varje driftsättning måste vara tidsbegränsad, geografiskt avgränsad och föremål för ex-post-rapportering.

Förhållande till andra artiklar

Artikel 5 måste läsas som toppen av EU:s AI-förordnings riskbaserade hierarki. Den verkar i samverkan med definitionerna i Artikel 3, som fastställer vad som utgör ett "AI-system", en "leverantör" och en "operatör" — de aktörer som är föremål för förbuden. Distinktionen mellan förbjudna metoder enligt Artikel 5 och AI-system med hög risk enligt Artikel 6 och Bilaga III är grundläggande: förbjudna system kan inte lagligen användas alls, medan system med hög risk kan driftsättas med förbehåll för bedömningar av överensstämmelse, registrering och löpande övervakningsskyldigheter.

Artikel 9 (riskhanteringssystem) och Artiklarna 10–15 (datastyrning, transparens, mänsklig tillsyn) tillämpas nedströms på tillåtna system med hög risk men har ingen avhjälpande roll för Artikel 5:s förbud. Artikel 99 fastställer påföljdsstrukturen, inklusive den högsta bötesnivån som gäller för Artikel 5-överträdelser. Artikel 85 och bestämmelserna om marknadskontroll (Artiklarna 74–78) reglerar verkställigheten. Nationella behöriga myndigheter utsedda enligt Artikel 70 ansvarar för att övervaka efterlevnaden av förbuden på medlemsstatsnivå.

Tidslinje för efterlevnad

• 1 augusti 2024 — Förordning (EU) 2024/1689 trädde i kraft, tjugo dagar efter offentliggörandet i Europeiska unionens officiella tidning.
• 2 februari 2025 — Förbuden i Artikel 5 blev direkt tillämpliga i alla EU:s medlemsstater. Detta var det första substantiella tillämpningsdatumet inom ramen för den stegvisa tidsplanen i Artikel 113. Från och med detta datum utgör varje driftsättning, utsläppande på marknaden eller ibruktagande av ett förbjudet AI-system en regulatorisk överträdelse som är föremål för påföljder enligt Artikel 99.
• 2 augusti 2025 — Reglerna för AI-modeller för allmänna ändamål (Avdelning VIII, Artiklarna 51–56) blev tillämpliga.
• 2 augusti 2026 — Skyldigheter för de flesta AI-system med hög risk förtecknade i Bilaga III gäller, tillsammans med styrnings- och marknadskontrollbestämmelser.
• 2 augusti 2027 — Förlängd tidsfrist för AI-system med hög risk som redan fanns på marknaden före augusti 2024 och som omfattas av Bilaga I (säkerhetskomponent i reglerade produkter).

För Artikel 5 specifikt finns ingen respittid eller övergångsarrangemang: tidsfristen var den 2 februari 2025, och efterlevnaden är nu försenad för varje organisation som ännu inte har agerat.