Artikel 15 van Verordening (EU) 2024/1689 — Nauwkeurigheid, robuustheid en cyberbeveiliging. Officiële tekst, praktische interpretatie, kernverplichtingen en nalevingsimplicaties.
Samenvatting van de officiële tekst
Artikel 15 van Verordening (EU) 2024/1689 stelt technische vereisten vast voor nauwkeurigheid, robuustheid en cyberbeveiliging die gedurende de volledige levenscyclus moeten worden nageleefd door hoog-risico AI-systemen. Het artikel is gestructureerd rond drie onderling samenhangende verplichtingen.
Ten eerste moeten hoog-risico AI-systemen worden ontworpen en ontwikkeld om een passend niveau van nauwkeurigheid te bereiken voor hun beoogde doel. Aanbieders zijn verplicht de relevante nauwkeurigheidsmetrieken te vermelden in de bijbehorende technische documentatie, waardoor downstream-verificatie en toezicht door de regelgever mogelijk worden.
Ten tweede moeten systemen robuustheid aantonen — het vermogen om fouten, storingen en inconsistenties te verwerken die voortkomen uit het systeem zelf, uit de bedrijfsomgeving of uit opzettelijke vijandige manipulatie. De Verordening vermeldt uitdrukkelijk de noodzaak om het risico van onbedoelde feedbacklussen aan te pakken, met name wanneer een hoog-risico AI-systeem zijn eigen trainingsgegevens of uitvoer beïnvloedt.
Ten derde moeten systemen cyberbeveiligingsmaatregelen bevatten die evenredig zijn aan de risico's die zij vormen. Deze maatregelen moeten beschermen tegen pogingen van derden om systeemkwetsbaarheden te misbruiken die het systeem op schadelijke, bevooroordeelde of anderszins niet-conforme wijze kunnen laten functioneren. De Verordening erkent dat cyberveerkracht geen statische toestand is, maar moet worden gehandhaafd naarmate het dreigingslandschap evolueert.
Samen operationaliseert Artikel 15 het bredere beginsel — geformuleerd in Overwegingen 51 en 52 — dat technische betrouwbaarheid een voorwaarde is voor de inzet van AI in gebieden met verstrekkende gevolgen.
Wat dit in de praktijk betekent
Artikel 15 schept concrete technische en bestuurlijke verplichtingen voor elke organisatie die een hoog-risico AI-systeem op de EU-markt brengt of in gebruik neemt.
Voor aanbieders is de directe implicatie dat nauwkeurigheid niet alleen een commerciële claim is, maar een regelgevende verbintenis die moet worden gedocumenteerd, gemeten en gehandhaafd. Een fabrikant van medische hulpmiddelen die een AI-diagnostisch hulpmiddel integreert, moet specificeren of nauwkeurigheid wordt gemeten als sensitiviteit, specificiteit, AUC of een andere metriek — en die keuze moet aansluiten bij het beoogde doel en het risicoprofiel van het systeem. Vage of aspirationele nauwkeurigheidsverklaringen voldoen niet aan de vereiste.
Robuustheidstesten moeten verder gaan dan standaard kwaliteitsborging. Aanbieders moeten stresstests, tests buiten de distributie en — waar het systeem wordt blootgesteld aan door de gebruiker gecontroleerde invoer — vijandige red-teaming uitvoeren. Waar een systeem feedbacklussen bevat (bijvoorbeeld een aanwervingsalgoritme dat leert van beslissingen van recruiters), moeten aanbieders het risico in kaart brengen en beperken dat bevooroordeelde uitvoer toekomstige trainingscycli corrumpeert.
Cyberbeveiligingsverplichtingen op grond van Artikel 15 moeten worden gelezen in samenhang met de bredere informatiebeveiligingshouding van de aanbieder. Hoog-risico AI-systemen die persoonsgegevens verwerken of verbinding maken met kritieke infrastructuur hebben gecombineerde verplichtingen op grond van zowel deze Verordening als de NIS 2-richtlijn. Praktische stappen omvatten toegangscontroles voor modellen, invoersanering, anomaliedetectie bij inferentieverzoeken en procedures voor het openbaar maken van kwetsbaarheden.
Voor gebruiksverantwoordelijken hangt naleving van Artikel 15 grotendeels af van het bewaren van de gevalideerde bedrijfsomstandigheden die door de aanbieder zijn beschreven. Het inzetten van een systeem op gegevensdistributies die wezenlijk afwijken van die welke bij validatie zijn gebruikt — bijvoorbeeld het toepassen van een kredietbeoordelingsmodel dat is getraind op één nationale markt op een andere jurisdictie — kan de nauwkeurigheids- en robuustheidseigenschappen ondermijnen waarop de CE-markering is verleend.
Kernverplichtingen
- Nauwkeurigheidsmetrieken verklaren: Aanbieders moeten de relevante nauwkeurigheidsmetrieken voor het hoog-risico AI-systeem specificeren en opnemen in de technische documentatie die vereist is op grond van Artikel 11 en Bijlage IV. Metrieken moeten passend zijn voor het beoogde doel van het systeem.
- Passende nauwkeurigheid bereiken en handhaven: Het systeem moet worden ontworpen en ontwikkeld om het gedeclareerde nauwkeurigheidsniveau te bereiken; nauwkeurigheid mag niet worden behandeld als een eenmalig validatieresultaat, maar moet na de inzet worden bewaakt via het post-marktbewakingssysteem dat vereist is op grond van Artikel 72.
- Robuustheid tegen fouten en inconsistenties waarborgen: Er moeten technische en organisatorische maatregelen aanwezig zijn zodat het systeem fouten, storingen en inconsistenties kan verwerken — of deze nu voortkomen uit interne storingen, variabiliteit in de omgeving of opzettelijke vijandige invoer — zonder onveilige of niet-conforme uitvoer te veroorzaken.
- Beschermen tegen vijandige aanvallen: Waar het systeem wordt blootgesteld aan invoer van derden, moeten aanbieders maatregelen implementeren om vijandige manipulatie te detecteren en te weerstaan, inclusief prompt-injectie, modelinversie of gegevensvergiftigingsaanvallen waar van toepassing.
- Feedbacklusrisico's aanpakken: Waar de uitvoer van een systeem toekomstige trainingsgegevens of modelgedrag kan beïnvloeden, moeten aanbieders dit risico identificeren in de technische documentatie en waarborgen implementeren om prestatievermindering of biasversterking in de loop van de tijd te voorkomen.
- Evenredige cyberbeveiligingsmaatregelen implementeren: Technische oplossingen — inclusief toegangscontroles, monitoring en procedures voor incidentrespons — moeten evenredig zijn aan de cyberbeveiligingsrisico's die het systeem met zich meebrengt, rekening houdend met het beoogde doel, de inzetcontext en de blootstelling aan externe netwerken of door gebruikers gecontroleerde invoer.
Relatie tot andere artikelen
Artikel 15 kan niet geïsoleerd worden gelezen. Het bevindt zich in het hart van de technische vereisten voor hoog-risico AI-systemen en heeft raakvlakken met verschillende andere bepalingen van de Verordening.
Artikel 9 (risicobeheersysteem) biedt het overkoepelende kader waarbinnen nauwkeurigheids-, robuustheids- en cyberbeveiligingsrisico's moeten worden geïdentificeerd, beoordeeld en beperkt. Het risicobeheersysteem is het procedurele instrument voor het voldoen aan veel van de materiële vereisten die Artikel 15 oplegt.
Artikel 10 (gegevens en gegevensbeheer) is fundamenteel voor nauwkeurigheid: een systeem dat is getraind op gegevens van lage kwaliteit, niet-representatieve of bevooroordeelde gegevens kan geen zinvolle nauwkeurigheidsgaranties bieden. Verplichtingen inzake gegevenskwaliteit maken nalevng van Artikel 15 direct mogelijk.
Artikel 11 en Bijlage IV specificeren wat er moet verschijnen in de technische documentatie, inclusief de nauwkeurigheidsmetrieken die vereist zijn door Artikel 15(1).
Artikel 17 (kwaliteitsbeheersysteem) vereist van aanbieders dat zij naleving van Artikel 15 inbedden in hun organisatieprocessen, inclusief ontwerpcontroles, testprotocollen en procedures voor wijzigingsbeheer.
Artikel 72 (post-marktbewaking) schept de voortdurende verplichting om te verifiëren dat nauwkeurigheids- en robuustheidsniveaus na de inzet worden gehandhaafd, waarmee de levenscycluslus wordt gesloten die Artikel 15 opent in de ontwerpfase.
Voor systemen die ook medische hulpmiddelen of veiligheidscomponenten zijn, moet Artikel 15 worden gelezen naast de toepasselijke harmonisatiewetgeving van de Unie die is vermeld in Bijlage I.
Nalevingstijdlijn
Artikel 15 volgt het gefaseerde toepassingsschema dat is vastgesteld door Artikel 113 van Verordening (EU) 2024/1689, dat op 1 augustus 2024 in werking is getreden.
| Datum | Mijlpaal |
|---|---|
| 1 augustus 2024 | Verordening treedt in werking. Artikel 15 is wettelijk vastgesteld maar nog niet van toepassing. |
| 2 februari 2025 | Verboden AI-praktijken (Titel II, Artikel 5) worden van toepassing. Artikel 15 is nog niet van toepassing. |
| 2 augustus 2025 | GPAI-modelverplichtingen (Titel VIII) worden van toepassing. Artikel 15 blijft niet van toepassing. |
| 2 augustus 2026 | Artikel 15 wordt van toepassing op hoog-risico AI-systemen vermeld in Bijlage III (bijv. biometrische identificatie, beheer van kritieke infrastructuur, werkgelegenheidstools, onderwijssystemen, wetshandhavingstoepassingen). |
| 2 augustus 2027 | Artikel 15 wordt van toepassing op hoog-risico AI-systemen gereguleerd door de harmonisatiewetgeving van de Unie in Bijlage I (bijv. medische hulpmiddelen, machines, onderdelen voor de burgerluchtvaart). |
Aanbieders die hoog-risico AI-systemen ontwikkelen of op de markt brengen vóór de toepassingsdatum moeten desalniettemin op voorhand documentatie, testprotocollen en cyberbeveiligingsarchitecturen voorbereiden — gereedheidsbeoordelingen voor regelgeving en conformiteitsbeoordelingen op grond van Artikelen 43–47 vergen aanzienlijke voorbereidingstijd. Achterstanden bij aangemelde instanties en de complexiteit van vijandige tests betekenen dat organisaties die een lancering in 2026 nastreven uiterlijk medio 2025 moeten beginnen met hiaatrbeoordelingen voor Artikel 15.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Artikel 15 vereist dat hoog-risico AI-systemen worden ontworpen en ontwikkeld om gedurende hun volledige levenscyclus een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging te bereiken. Aanbieders moeten nauwkeurigheidsmetrieken specificeren in de technische documentatie en ervoor zorgen dat systemen veerkrachtig blijven tegen fouten, storingen, inconsistenties en vijandige aanvallen.
Artikel 15 is in de eerste plaats bindend voor aanbieders van hoog-risico AI-systemen zoals gedefinieerd in Artikel 6 en Bijlage III van Verordening (EU) 2024/1689. Gebruiksverantwoordelijken hebben secundaire verantwoordelijkheden, met name met betrekking tot het handhaven van de voorwaarden waaronder het systeem is gevalideerd.
Vijandige aanvallen verwijzen naar opzettelijke pogingen van derden om een AI-systeem te manipuleren of te misleiden door het geconstrueerde invoer aan te bieden die is ontworpen om onjuiste uitvoer te veroorzaken. Artikel 15 vereist technische robuustheidsmaatregelen — zoals vijandige training of invoervalidatie — om dit risico te beperken.
Nee. Artikel 15 bevindt zich in Titel III, Hoofdstuk 2, dat uitsluitend van toepassing is op hoog-risico AI-systemen. AI-modellen voor algemene doeleinden (GPAI's) worden gereguleerd door Titel VIII van de Verordening, met name Artikelen 51–56, die afzonderlijke verplichtingen bevatten.
Artikel 15 is van toepassing op hoog-risico AI-systemen die onder Bijlage III vallen vanaf 2 augustus 2026, en op hoog-risico AI-systemen die worden gereguleerd door de in Bijlage I genoemde harmonisatiewetgeving van de Unie vanaf 2 augustus 2027, met inachtneming van bepaalde overgangsbepalingen.
Nauwkeurigheidsniveaus moeten worden bepaald op basis van het beoogde doel van het systeem en worden gespecificeerd in de technische documentatie die vereist is op grond van Artikel 11 en Bijlage IV. Er is geen universele benchmark; aanbieders moeten metrieken selecteren die passend zijn voor het taakdomein — bijvoorbeeld sensitiviteit en specificiteit voor medische diagnosesystemen, of fout-positief/negatief-percentages voor biometrische identificatie.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.