Artikel 76 van Verordening (EU) 2024/1689 — Toezicht op testen in reële omstandigheden door markttoezichtautoriteiten. Officiële tekst, praktische interpretatie, belangrijkste verplichtingen en nalevingsimplicaties.
Samenvatting van de officiële tekst
Artikel 76 van Verordening (EU) 2024/1689 verleent specifieke toezichtsbevoegdheden aan markttoezichtautoriteiten over het testen van hoog-risico AI-systemen in reële omstandigheden zoals voorzien in Artikel 60. Het artikel stelt vast dat wanneer dergelijk testen plaatsvindt op het grondgebied van een lidstaat, de bevoegde markttoezichtautoriteit voor dat grondgebied bevoegd is om toezicht te houden op de uitvoering van het testen en te verifiëren dat alle door Artikel 60 voorgeschreven voorwaarden gedurende de gehele testperiode worden nageleefd.
Autoriteiten zijn bevoegd om toegang te vragen tot alle documentatie die ten grondslag ligt aan het real-world testen, inclusief het testplan, de op deelnemers toegepaste procedures voor geïnformeerde toestemming en alle door het AI-systeem tijdens de werking gegenereerde registraties. Wanneer de autoriteit omstandigheden vaststelt die erop wijzen dat het testen aanleiding geeft tot een risico — met name voor de gezondheid, veiligheid of grondrechten van natuurlijke personen — kan zij de opschorting of definitieve beëindiging van de testactiviteit gelasten. Dergelijke beslissingen moeten onverwijld worden meegedeeld aan de Europese Commissie en aan de markttoezichtautoriteiten van andere lidstaten via de bestaande Unie-infrastructuur voor productveiligeheidsinformatie en -communicatie.
Het artikel behandelt ook de coördinatie tussen autoriteiten wanneer het testen meerdere lidstaten omspant, waarbij de autoriteit van de lidstaat waar de aanbieder is gevestigd wordt aangewezen als hoofdtoezichthouder, terwijl het recht van elke betrokken autoriteit om beschermingsmaatregelen op haar eigen grondgebied te nemen, behouden blijft. Dit weerspiegelt het gecoördineerde handhavingsmodel dat wordt toegepast onder andere harmonisatiewetgeving van de Unie en zorgt ervoor dat grensoverschrijdende real-world testen niet in een toezichtsvacuüm vallen.
Wat dit in de praktijk betekent
Voor aanbieders en gebruiksverantwoordelijken die real-world condition testing van hoog-risico AI-systemen uitvoeren, betekent Artikel 76 dat testen geen zelfgereguleerde activiteit is: een aangewezen markttoezichtautoriteit behoudt doorlopende toezichtsbevoegdheid vanaf het moment dat het testen begint totdat het eindigt.
In de praktijk moet een AI-aanbieder die bijvoorbeeld een pilot uitvoert van een systeem ter ondersteuning van medische diagnose bij patiënten in twee lidstaten, de hoofdtoezichthoudende autoriteit identificeren — doorgaans de autoriteit in de lidstaat waar de aanbieder is gevestigd — en ervoor zorgen dat alle testdocumentatie die vereist is op grond van Artikel 60 op korte termijn beschikbaar is voor inspectie. Als de autoriteit toegang vraagt tot systeemlogboeken, het register van geïnformeerde toestemming of de incidentbeheersregistraties, moeten deze worden verstrekt binnen de door de autoriteit opgegeven termijn, die in urgente situaties zo kort kan zijn als enkele dagen.
Gebruiksverantwoordelijken (ziekenhuizen, uitzendbureaus, kredietinstellingen of andere organisaties die het systeem van een aanbieder integreren) dragen gezamenlijk de nalevingslast. Zij moeten meewerken aan toezichtsinspecties en mogen de toegang van de autoriteit tot testlocaties of systeeminterfaces niet belemmeren.
Wanneer tijdens testen een ernstig incident optreedt — schade, bijna-ongeluk of onverwachte nadelige uitkomst waarbij een deelnemer betrokken is — worden de meldingsverplichtingen van Artikel 73 parallel geactiveerd, en wordt de markttoezichtautoriteit die toezicht houdt op grond van Artikel 76 onmiddellijk een ontvanger van die melding. Organisaties dienen daarom hun procedures voor incidentrespons te integreren met hun testbeheerkaders vóór het begin van het testen, niet nadat een incident heeft plaatsgevonden.
Multinationale testprogramma's dienen één interne complianceverantwoordelijke aan te wijzen die verantwoordelijk is voor de coördinatie met lidstaatautoriteiten, en dienen vooraf in kaart te brengen welke autoriteit hoofdbevoegdheid heeft en welke gelijktijdige territoriale bevoegdheden hebben.
Belangrijkste verplichtingen
- Aanbieders en gebruiksverantwoordelijken moeten alle real-world testdocumentatie — inclusief het testplan, records van toestemming van deelnemers, risicobeheersregistraties en systeembedrijfslogboeken — bewaren in een vorm die onmiddellijk toegankelijk is voor de bevoegde markttoezichtautoriteit gedurende de duur van het testen.
- Op verzoek van de markttoezichtautoriteit moeten aanbieders en gebruiksverantwoordelijken alle informatie, gegevens of toegang verstrekken die nodig zijn voor de autoriteit om de naleving van de in Artikel 60 gestelde voorwaarden te beoordelen, binnen de door de autoriteit opgegeven termijn.
- Wanneer het testen meerdere lidstaten omspant, moet de aanbieder contact opnemen met de hoofdtoezichthoudende autoriteit (de autoriteit van de lidstaat van vestiging) en ervoor zorgen dat alle betrokken territoriale autoriteiten zijn geïnformeerd en beschermingsmaatregelen kunnen nemen binnen hun rechtsgebied.
- Wanneer een markttoezichtautoriteit de opschorting of beëindiging van real-world testen gelast, moeten de aanbieder en gebruiksverantwoordelijke onmiddellijk voldoen en alle testactiviteiten op het grondgebied van de Unie staken totdat de autoriteit de maatregel opheft of de zaak is opgelost via de toepasselijke herzieningsprocedure.
- Elk ernstig incident dat zich voordoet tijdens real-world condition testing moet worden gemeld aan de toezichthoudende markttoezichtautoriteit in overeenstemming met de tijdlijnen en procedures die zijn vastgesteld op grond van Artikel 73, zonder te wachten op de conclusie van een intern onderzoek.
- Aanbieders en gebruiksverantwoordelijken moeten te goeder trouw meewerken aan markttoezichtinspecties, inclusief het verlenen van toegang ter plaatse tot faciliteiten, personeel en AI-systeeminterfaces wanneer daarom wordt verzocht.
Relatie tot andere artikelen
Artikel 76 bevindt zich op het snijpunt van verschillende onderling verweven bepalingen van Verordening (EU) 2024/1689. Zijn primaire verbinding is met Artikel 60, dat de materiële voorwaarden definieert waaronder real-world condition testing van hoog-risico AI-systemen is toegestaan; Artikel 76 is het handhavingstegenhanger dat die voorwaarden bindende kracht geeft door middel van toezichtscontrole.
Het bouwt voort op het algemene markttoezichtkader dat is vastgesteld door Artikelen 74 en 75, die de bevoegdheden en procedures definiëren die beschikbaar zijn voor markttoezichtautoriteiten voor alle categorieën AI-systeem, en dient samen met die artikelen te worden gelezen om de volledige reikwijdte van beschikbare onderzoeks- en correctieve bevoegdheden te begrijpen.
Het artikel sluit aan bij Artikel 73 over rapportage van ernstige incidenten, aangezien incidenten die zich voordoen tijdens gecontroleerd testen onmiddellijk de meldingsketen van dat artikel activeren. Artikel 57 over AI-regelgevingssandboxen is een gerelateerde maar afzonderlijke bepaling: sandboxen werken onder toezicht van nationale bevoegde autoriteiten met speciale derogaties, terwijl Artikel 76 het testen in reële omstandigheden regelt onder het standaard markttoezichtregime.
Artikelen 85 en 86 over sancties en toegang tot de rechter zijn relevant stroomafwaarts: het niet meewerken aan Artikel 76-toezicht kan een nalevingsschending vormen die administratieve boetes oplevert op grond van het sanctiekader van de wet.
Nalevingstijdlijn
Verordening (EU) 2024/1689 is in werking getreden op 1 augustus 2024, wat het begin markeert van het gefaseerde toepassingsschema. Artikel 76, als onderdeel van Titel IX over post-market monitoring en markttoezicht, valt binnen de bepalingen die volledig van toepassing worden op hoog-risico AI-systemen in de tweede en derde toepassingsfasen.
Voor hoog-risico AI-systemen die zijn opgenomen in Bijlage III (zelfstandige hoog-risicotoepassingen) gelden volledige markttoezichtverplichtingen — inclusief Artikel 76-toezicht op real-world testen — vanaf 2 augustus 2026. Voor hoog-risico AI-systemen die veiligheidscomponenten zijn van producten die worden geregeld door bestaande harmonisatiewetgeving van de Unie die is opgenomen in Bijlage I (zoals medische hulpmiddelen en machines), is de toepasselijke datum 2 augustus 2027.
Aanbieders die real-world condition testing van hoog-risicosystemen plannen, dienen augustus 2026 te beschouwen als de harde deadline voor het hebben van conforme testbeheerkaders, inclusief gedocumenteerde procedures voor toegang door autoriteiten, escalatie van incidenten en grensoverschrijdende coördinatie. Gezien het feit dat testprogramma's vaak zes tot twaalf maanden lopen voordat een systeem de markt bereikt, dienen beheerkaders realistisch gezien uiterlijk begin 2026 te worden ontworpen en getest om vertragingen bij de markttoegang te vermijden.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Markttoezichtautoriteiten kunnen toezicht houden op testen in reële omstandigheden die worden uitgevoerd op grond van Artikel 60. Zij kunnen documentatie opvragen, toegang tot testomgevingen verkrijgen en van exploitanten of aanbieders eisen dat zij alle informatie verstrekken die nodig is om de naleving te verifiëren. Zij kunnen ook ingrijpen om testen op te schorten of te beperken wanneer zij een risico op schade aan gezondheid, veiligheid of grondrechten vaststellen.
Zowel aanbieders als gebruiksverantwoordelijken (exploitanten) die testen van hoog-risico AI-systemen in reële omstandigheden uitvoeren of faciliteren op grond van Artikel 60, staan onder toezicht van de bevoegde markttoezichtautoriteit in de lidstaat waar het testen plaatsvindt.
Ja. Wanneer een markttoezichtautoriteit vaststelt dat testen een onaanvaardbaar risico inhoudt voor de gezondheid, veiligheid of grondrechten van personen, kan zij de onmiddellijke opschorting of beëindiging van de testactiviteiten gelasten, en moet zij de Commissie en andere lidstaten via het RAPEX/ICSMS-bewakingsnetwerk in kennis stellen.
Artikel 76 is een aanvulling op Artikel 57, dat AI-regelgevingssandboxen instelt. Terwijl sandboxen een gecontroleerde omgeving bieden onder toezicht van nationale bevoegde autoriteiten, regelt Artikel 76 specifiek het toezicht op testen in reële omstandigheden die buiten het sandboxkader worden uitgevoerd op grond van Artikel 60, zodat markttoezichtautoriteiten toezichtsbevoegdheden behouden wanneer AI-systemen worden getest op werkelijke populaties.
Aanbieders en gebruiksverantwoordelijken moeten het goedgekeurde of aangemelde testplan voor real-world testen op grond van Artikel 60, records van geïnformeerde toestemming, logboeken van systeemwerking, details van het toegepaste risicobeheerkader en eventuele ernstige incidentrapporten beschikbaar stellen. Autoriteiten kunnen deze documenten ter plaatse inspecteren of verzoeken om indiening ervan binnen bepaalde termijnen.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.