Artikel 60 van Verordening (EU) 2024/1689 — Testen van hoog-risico AI-systemen onder reële omstandigheden buiten AI-regelgevingssandboxen. Officiële tekst, praktische interpretatie, belangrijkste verplichtingen en nalevingsimplicaties.
Samenvatting van de officiële tekst
Artikel 60 van Verordening (EU) 2024/1689 stelt de voorwaarden vast waaronder aanbieders en toekomstige aanbieders van hoog-risico AI-systemen tests mogen uitvoeren onder reële omstandigheden buiten het gestructureerde kader van AI-regelgevingssandboxen die zijn opgericht krachtens de Artikelen 57 tot en met 59. Deze bepaling erkent dat een zinvolle evaluatie van hoog-risico AI-systemen vaak blootstelling aan echte operationele omgevingen vereist, terwijl waarborgen worden gehandhaafd die evenredig zijn aan de betrokken risico's.
Het artikel vereist dat tests buiten sandboxen alleen worden uitgevoerd wanneer aan een reeks cumulatieve voorwaarden is voldaan. De aanbieder of toekomstige aanbieder moet ten minste 30 dagen vóór aanvang van de tests een melding indienen bij de bevoegde nationale autoriteit. De melding moet een testplan bevatten dat de reikwijdte, duur, geografisch gebied, categorieën betrokken personen en de geldende risicobeheersmaatregelen beschrijft.
Geïnformeerde toestemming van proefpersonen is een centrale vereiste. Wanneer het AI-systeem interageert met of beslissingen neemt die identificeerbare natuurlijke personen betreffen, moeten die personen worden geïnformeerd over hun deelname en moeten zij uitdrukkelijk toestemming geven, tenzij het toepasselijke sectorale recht anders bepaalt. Tests mogen niet verder gaan dan strikt noodzakelijk is om de vermelde doelstellingen te bereiken en mogen proefpersonen niet blootstellen aan onaanvaardbaar risico of schade.
Het artikel vereist verder dat de tests worden uitgevoerd onder toezicht van de aanbieder, dat resultaten worden geregistreerd en dat ernstige incidenten tijdens de tests worden gemeld aan de bevoegde autoriteit. Lidstaten behouden de bevoegdheid om testactiviteiten op hun grondgebied te autoriseren of te weigeren en kunnen aanvullende voorwaarden opleggen.
Wat dit in de praktijk betekent
Artikel 60 is voornamelijk relevant voor organisaties die hoog-risico AI-systemen ontwikkelen of inzetten — zoals gedefinieerd in Artikel 6 en Bijlage III van de Verordening — die de systeemprestaties of veiligheidseigenschappen moeten valideren in echte operationele omgevingen vóór of naast formele conformiteitsbeoordelingen. Dit omvat bijvoorbeeld een ziekenhuis dat een AI-ondersteund diagnostisch hulpmiddel test in een live klinische omgeving, of een financiële instelling die een kredietwaardigheidsmodel test met echte aanvragers buiten een gecontroleerde sandbox.
In de praktijk betekent naleving het opzetten van een intern proces voor het beheer van reëelwereldtests dat de verplichtingen van het artikel weerspiegelt. Vóór aanvang van een test moet de organisatie een gestructureerd testplan opstellen, verifiëren dat alle toestemmingsmechanismen aanwezig zijn en de vereiste melding bij de bevoegde autoriteit indienen ten minste 30 dagen van tevoren — waarbij voldoende tijd wordt gelaten voor de autoriteit om bezwaar te maken of voorwaarden op te leggen.
Tijdens de test moet de organisatie actief menselijk toezicht handhaven, alle materiële incidenten documenteren en bereid zijn het testen onmiddellijk te staken als de risico's de verwachte niveaus overschrijden. Gegevens die tijdens het testen worden verzameld, blijven onderworpen aan de toepasselijke AVG-verplichtingen en de verwerking van bijzondere categorieën persoonsgegevens vereist een specifieke rechtsgrond.
Organisaties moeten er ook voor zorgen dat hun contracten met inzetters of externe testoperatoren de verantwoordelijkheid voor naleving van de voorwaarden van Artikel 60 duidelijk toewijzen, aangezien de verplichting primair rust op de aanbieder of toekomstige aanbieder, ongeacht wie de test fysiek uitvoert. Interne governancekaders — inclusief een aangewezen verantwoordelijke persoon en een gedocumenteerd risicoregister voor de test — zijn sterk aanbevolen.
Belangrijkste verplichtingen
- Voorafgaande melding: Dien een testplan in bij de bevoegde nationale autoriteit ten minste 30 dagen vóór aanvang van de reëelwereldtests, met vermelding van reikwijdte, duur, locatie, categorieën proefpersonen en risicobeheersmaatregelen.
- Geïnformeerde toestemming: Verkrijg uitdrukkelijke geïnformeerde toestemming van alle natuurlijke personen die betrokken zijn bij of beïnvloed worden door de tests, en informeer hen over hun onvoorwaardelijk recht om zich op elk moment zonder nadeel terug te trekken.
- Risicoproportionaliteit: Zorg ervoor dat testactiviteiten niet verder gaan dan strikt noodzakelijk voor het vermelde doel en proefpersonen of derden niet blootstellen aan risico's die de verwachte voordelen overtreffen.
- Toezicht en documentatie: Handhaaf actief toezicht op de test, bewaar records van het testplan, resultaten en eventuele afwijkingen of incidenten die zich tijdens de testperiode voordoen.
- Melding van incidenten: Meld zonder onnodige vertraging elk ernstig incident dat zich voordoet tijdens reëelwereldtests aan de bevoegde autoriteit en neem onmiddellijk corrigerende maatregelen om schade te beperken.
- Registratie in de EU-databank: Registreer de reëelwereldtestactiviteit in de EU-databank voor hoog-risico AI-systemen die is opgericht krachtens Artikel 71, vóór aanvang van de tests.
Relatie tot andere artikelen
Artikel 60 maakt deel uit van Titel VI (Maatregelen ter ondersteuning van innovatie) en moet worden gelezen in samenhang met de Artikelen 57 tot en met 59, die het primaire kader voor AI-regelgevingssandboxen vaststellen. Artikel 60 fungeert als een aanvullend traject voor tests die niet plaatsvinden in een formele sandbox, maar vervangt of verlaagt niet de inhoudelijke veiligheids- en transparantieverplichtingen die van toepassing zijn op hoog-risico AI-systemen krachtens Titel III (met name de Artikelen 8 tot en met 15 inzake verplichtingen van aanbieders, risicobeheer en technische documentatie).
De toestemmings- en gegevensbeschermingsvereisten van Artikel 60 snijden rechtstreeks door Verordening (EU) 2016/679 (AVG), met name de Artikelen 6, 9 en 22 inzake rechtmatige verwerking en geautomatiseerde besluitvorming. Artikel 60 verbindt ook met Artikel 71 over de EU-databank, die registratieverplichtingen regelt, en met Artikel 73 inzake markttoezicht, aangezien bevoegde autoriteiten reëelwereldtests kunnen inspecteren. Aanbieders moeten ook Artikel 26 inzake verplichtingen van inzetters in overweging nemen, aangezien reëelwereldtests vaak gebruik maken van inzettingsinfrastructuur en -gegevens.
Tijdlijn voor naleving
De EU AI-verordening is op 1 augustus 2024 in werking getreden, twintig dagen na de bekendmaking in het Publicatieblad van de Europese Unie. De bepalingen zijn gefaseerd van toepassing:
- 2 februari 2025 — Verboden op AI-praktijken met onaanvaardbaar risico (Artikel 5) zijn van toepassing geworden.
- 2 augustus 2025 — Bepalingen inzake AI-modellen voor algemene doeleinden (Titel III, Hoofdstuk 3, Artikelen 51 tot en met 56) en governanceverplichtingen (Titel VI en VIII gedeeltelijk) zijn van toepassing geworden. Het regelgevingssandboxkader krachtens de Artikelen 57 tot en met 59 is ook vanaf deze datum van toepassing geworden.
- 2 augustus 2026 — De algemene toepassingsdatum voor de meeste resterende bepalingen, waaronder Artikel 60. Vanaf deze datum moeten aanbieders en toekomstige aanbieders van hoog-risico AI-systemen die reëelwereldtests buiten sandboxen willen uitvoeren, volledig voldoen aan de meldings-, toestemmings-, documentatie- en incidentrapportageverplichtingen die door dit artikel zijn vastgesteld.
- 2 augustus 2027 — Verlengde termijn voor hoog-risico AI-systemen die vallen onder Bijlage III, punt 2 (AI-systemen in bestaande producten die al onderworpen zijn aan de in Bijlage I vermelde harmonisatiewetgeving van de Unie), waardoor getroffen sectoren extra tijd krijgen om zich af te stemmen op conformiteitsbeoordelings- en operationele vereisten.
Organisaties die reëelwereldtestprogramma's plannen, moeten ruim vóór de datum van 2 augustus 2026 beginnen met het ontwerpen van conforme testgovernancekaders en meldingsprocedures om vertragingen te voorkomen wanneer de verplichting afdwingbaar wordt.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Aanbieders en toekomstige aanbieders van hoog-risico AI-systemen mogen reëelwereldtests buiten sandboxen uitvoeren, mits zij de bevoegde nationale autoriteit ten minste 30 dagen vóór aanvang van de tests informeren en voldoen aan de voorwaarden van Artikel 60, waaronder het verkrijgen van geïnformeerde toestemming van proefpersonen en het treffen van passende risicobeheersmaatregelen.
Nee. Artikel 60 stelt een afzonderlijk traject in voor reëelwereldtests die plaatsvinden buiten de formele AI-regelgevingssandboxen die worden geregeld door de Artikelen 57 tot en met 59. Het biedt een lichtere aanpak maar legt nog steeds verplichte waarborgen, meldingsvereisten en voorwaarden op voor de bescherming van de bij het testen betrokken proefpersonen.
Proefpersonen die betrokken zijn bij reëelwereldtests moeten expliciete geïnformeerde toestemming geven, tenzij het toepasselijke sectorale recht anders bepaalt. Zij moeten worden geïnformeerd over hun recht om zich zonder nadeel terug te trekken, worden beschermd tegen ongewenste negatieve gevolgen, en de aanbieder moet ervoor zorgen dat eventuele schade als gevolg van het testen wordt verholpen. Speciale bescherming geldt voor kwetsbare groepen.
Artikel 60 valt onder Titel VI en is van toepassing vanaf 2 augustus 2026, de algemene toepassingsdatum voor de meeste bepalingen van de EU AI-verordening. Hoog-risico AI-systemen die zijn opgenomen in Bijlage III zijn onderworpen aan gefaseerde verplichtingen, waarbij sommige categorieën vallen onder de verlengde termijn van 2 augustus 2027.
Niet noodzakelijkerwijs in de testfase, maar de tests moeten worden uitgevoerd onder omstandigheden die consistent zijn met het beoogde gebruik en de risicobeheervereisten van de AI-verordening. Aanbieders moeten de geplande tests registreren in de EU-databank en ervoor zorgen dat het testplan, de waarborgen en de toezichtsmechanismen voldoen aan de in Artikel 60, lid 4, genoemde voorwaarden.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.