Artikel 14 van Verordening (EU) 2024/1689 — Menselijk toezicht. Officiële tekst, praktische interpretatie, belangrijkste verplichtingen en nalevingsimplicaties.
Samenvatting van de officiële tekst
Artikel 14 van Verordening (EU) 2024/1689 stelt verplichte eisen voor menselijk toezicht op hoog-risico AI-systemen en vormt een kernpijler van het regelgevingskader onder Titel III, Hoofdstuk 2. Het artikel vereist dat hoog-risico AI-systemen zodanig worden ontworpen en ontwikkeld dat zij gedurende de gebruiksperiode effectief kunnen worden bewaakt door natuurlijke personen.
Meer specifiek schrijft Artikel 14(1) voor dat aanbieders, voor zover technisch haalbaar, waarborgen dat maatregelen voor menselijk toezicht in het systeem zijn ingebouwd voordat het op de markt wordt gebracht of in gebruik wordt gesteld. Deze maatregelen moeten de personen die zijn aangewezen voor toezicht in staat stellen de mogelijkheden en beperkingen van het systeem te begrijpen (Artikel 14(4)(a)), de werking te bewaken op tekenen van afwijkingen, storingen of onverwachte prestaties (Artikel 14(4)(b)), zich bewust te blijven van het risico van automatiseringsbias (Artikel 14(4)(c)), outputs correct te interpreteren (Artikel 14(4)(d)), en te beslissen het systeem niet te gebruiken of het te overschrijven, te negeren of in elke situatie te stoppen (Artikel 14(4)(e)).
Artikel 14(3) vereist dat de natuurlijke personen die zijn aangewezen voor toezicht de nodige competentie, bevoegdheid en middelen hebben om hun rol uit te voeren. Wanneer een systeem bedoeld is om door natuurlijke personen te worden gebruikt, moeten de toezichtmaatregelen voor zover technisch haalbaar rechtstreeks in de systeeminterface worden ingebouwd. Artikel 14(5) heeft betrekking op systemen met een veiligheidskritische componentfunctie en stelt hogere verwachtingen waar AI-output invloed heeft op veiligheidskritische beslissingen.
Wat dit in de praktijk betekent
Artikel 14 schept verplichtingen voor zowel aanbieders als gebruiksverantwoordelijken, hoewel de aard van die verplichtingen verschilt per fase van de levenscyclus van het AI-systeem.
Voor aanbieders is de verplichting primair een ontwerpkwestie: menselijk toezicht mag niet een achteraf toegevoegde functie zijn, maar moet een functie zijn die vanaf het begin in het systeem is ingebouwd. Dit betekent het bouwen van interfaces die zinvolle betrouwbaarheidsindicatoren weergeven, het markeren van outputs met lage zekerheid, het mogelijk maken van onderbreking of overschrijving zonder technische wrijving, en het verstrekken van documentatie waarmee gebruiksverantwoordelijken kunnen begrijpen wat toezicht realistisch haalbaar is.
Voor gebruiksverantwoordelijken is de verplichting operationeel: zij moeten bevoegde personen aanwijzen om het systeem te bewaken, zorgen dat die personen zijn opgeleid en geïnformeerd over de beperkingen van het systeem, procedures vaststellen voor escalatie en interventie, en registraties bijhouden van toezichtactiviteiten. Een gebruiksverantwoordelijke die een door AI aangedreven screeningstool voor werving gebruikt, moet er bijvoorbeeld voor zorgen dat menselijke recruiters gemarkeerde kandidaten beoordelen, de criteria begrijpen die het model toepast, en de bevoegdheid behouden om rangschikkingen te overschrijven zonder straf of procedurele obstructie.
Een kritieke praktische zorg is automatiseringsbias — de gedocumenteerde neiging van menselijke toezichthouders om kritiekloos te vertrouwen op AI-outputs. Artikel 14(4)(c) vereist uitdrukkelijk dat toezichtpersonen zich bewust zijn van dit risico. In de praktijk betekent dit dat trainingsprogramma's cognitieve bias moeten aanpakken en dat workflows zodanig moeten worden gestructureerd dat echte beraadslaging vereist is in plaats van blindelings afstempelen.
Gebruiksverantwoordelijken in gereguleerde sectoren zoals gezondheidszorg, rechtshandhaving en kredietbeoordeling worden geconfronteerd met hogere verwachtingen, gezien de ernst van de schade die kan voortvloeien uit ongecheckte AI-aanbevelingen in die contexten.
Belangrijkste verplichtingen
- Integratie in de ontwerpfase: Aanbieders moeten mogelijkheden voor menselijk toezicht inbouwen in hoog-risico AI-systemen voordat deze op de markt worden gebracht, zodat ze technisch realiseerbaar zijn en niet slechts nominaal.
- Begrijpelijkheid: Toezichtmaatregelen moeten aangewezen personen in staat stellen de mogelijkheden, het beoogde doel en de beperkingen van het systeem te begrijpen, inclusief de omstandigheden waaronder de prestaties kunnen verslechteren.
- Bewaking van afwijkingen: Aangewezen personen moeten storingen, onverwachte outputs en afwijkingen van het verwachte systeemgedrag tijdens de werking kunnen detecteren.
- Bewustzijn van bias: Personen die verantwoordelijk zijn voor toezicht moeten bewust worden gemaakt van het risico van automatiseringsbias en de neiging om te veel te vertrouwen op door AI gegenereerde outputs zonder onafhankelijke verificatie.
- Overschrijvingsbevoegdheid: Toezichthouders moeten de echte, onbelemmerde mogelijkheid hebben om het AI-systeem op elk moment tijdens het gebruik te negeren, te overschrijven of te stoppen, zonder technische of organisatorische belemmeringen die interventie verhinderen.
- Competentie- en middelenvereisten: Gebruiksverantwoordelijken moeten ervoor zorgen dat personen die zijn aangewezen voor toezicht voldoende competentie, opleiding, bevoegdheid en tijd hebben om zinvol toezicht uit te voeren — toezicht kan niet worden gedelegeerd aan personen die de nodige kwalificaties of capaciteit missen.
Relatie tot andere artikelen
Artikel 14 werkt niet op zichzelf. Het veronderstelt naleving van Artikel 9 (risicobeheersysteem), aangezien effectief toezicht afhangt van het identificeren van de risico's die het systeem met zich meebrengt en de omstandigheden waaronder toezicht kritiek wordt. Het is nauw verbonden met Artikel 13 (transparantie en verstrekking van informatie aan gebruiksverantwoordelijken), dat vereist dat aanbieders de informatie verstrekken die nodig is voor gebruiksverantwoordelijken om het systeem te begrijpen en te bewaken — zonder die informatie kan het toezicht zoals voorzien door Artikel 14 niet functioneren.
Artikel 16 en Artikel 26 stellen de algemene verplichtingen vast van respectievelijk aanbieders en gebruiksverantwoordelijken, waarbinnen de verplichtingen van Artikel 14 zijn genesteld. Artikel 17 (kwaliteitsbeheersysteem) vereist dat procedures voor menselijk toezicht worden gedocumenteerd als onderdeel van het kwaliteitskader van de aanbieder.
Voor systemen met een veiligheidskritische component kruist Artikel 14(5) met productveiligheidswetgeving waarnaar wordt verwezen in Bijlage I, en met sectorspecifieke vereisten die aanvullende of meer voorschrijvende toezichtsverplichtingen kunnen opleggen. Ten slotte breidt Artikel 72 (monitoring na het in de handel brengen) de logica van toezicht uit voorbij de implementatie naar de voortdurende operationele levenscyclus van het systeem.
Nalevingstijdlijn
Verordening (EU) 2024/1689 is op 1 augustus 2024 in werking getreden, twintig dagen na publicatie in het Publicatieblad. De bepalingen zijn van toepassing volgens een gefaseerd schema:
- 2 februari 2025: Verboden op AI-praktijken met onaanvaardbaar risico (Artikel 5) zijn van toepassing geworden.
- 2 augustus 2025: Regels voor AI-modellen voor algemene doeleinden (Titel VIII) en governanceverplichtingen (Titel III, Hoofdstuk 4) zijn van toepassing geworden.
- 2 augustus 2026: Verplichtingen voor hoog-risico AI-systemen opgesomd in Bijlage III — inclusief Artikel 14 — worden volledig van toepassing voor de meeste categorieën. Dit is de primaire nalevingsdeadline voor aanbieders en gebruiksverantwoordelijken van hoog-risico AI-systemen die onderworpen zijn aan eisen voor menselijk toezicht.
- 2 augustus 2027: Verlengde deadline voor bepaalde hoog-risico AI-systemen die al onderworpen zijn aan sectorspecifieke harmonisatiewetgeving van de Unie (Bijlage I-systemen), waardoor die toeleveringsketens extra tijd krijgen om conformiteitsbeoordelingsprocedures aan te passen.
Aanbieders en gebruiksverantwoordelijken van hoog-risico AI-systemen moeten 2 augustus 2026 beschouwen als de operationele deadline voor naleving van Artikel 14, waarbij voorbereidend ontwerp- en governancewerk ruim vóór die datum moet beginnen om conformiteitsbeoordeling en documentatie mogelijk te maken.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Aanbieders van hoog-risico AI-systemen dragen de primaire verantwoordelijkheid voor het ontwerpen en inbouwen van mogelijkheden voor menselijk toezicht in hun systemen voordat deze op de markt worden gebracht. Gebruiksverantwoordelijken zijn vervolgens verantwoordelijk voor het in de praktijk implementeren van die maatregelen, het aanwijzen van bevoegde natuurlijke personen om toezicht te houden op de werking van het systeem, en het waarborgen dat die personen de nodige bevoegdheid en competentie hebben om in te grijpen.
Effectief toezicht betekent dat de natuurlijke personen die zijn aangewezen om toezicht te houden op een hoog-risico AI-systeem volledig in staat moeten zijn de mogelijkheden en beperkingen van het systeem te begrijpen, storingen of onverwacht gedrag te detecteren en aan te pakken, de outputs correct te interpreteren, en ervoor te kunnen kiezen het systeem te negeren, te overschrijven of te stoppen wanneer dat nodig is. Het is niet voldoende om nominaal een persoon aan te wijzen — die persoon moet echte capaciteit en bevoegdheid hebben om te handelen.
Nee. Artikel 14 schrijft geen menselijke goedkeuring voor elke individuele output voor. Het vereist dat menselijk toezicht is ingebouwd in het systeem en de implementatiecontext, zodat een verantwoordelijke persoon de werking kan bewaken, afwijkingen kan identificeren en kan ingrijpen. De intensiteit van het toezicht moet evenredig zijn aan het risico; sommige hoog-risico contexten kunnen nauwer en frequenter menselijk toezicht vereisen dan andere.
Artikel 14(4) erkent dat voor bepaalde systemen die bedoeld zijn om door natuurlijke personen te worden gebruikt, de maatregelen voor menselijk toezicht voor zover technisch haalbaar in het systeem moeten worden ingebouwd, gezien het beoogde doel. Waar volledig toezicht niet kan worden ingebed, moeten aanbieders deze beperking documenteren en moeten gebruiksverantwoordelijken compenseren via organisatorische en procedurele waarborgen.
Ja. Artikel 14 is van toepassing op alle hoog-risico AI-systemen zoals gedefinieerd in Bijlage III en Artikel 6, ongeacht of het systeem volledig autonome beslissingen neemt of slechts menselijke besluitvormers ondersteunt. Zelfs ondersteunende systemen kunnen uitkomsten beïnvloeden op manieren die gestructureerd toezicht vereisen, met name wanneer outputs mogelijk kritiekloos worden opgevolgd.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.