Artikel 76 i förordning (EU) 2024/1689 — Tillsyn av testning under verkliga förhållanden av marknadskontrollmyndigheter. Officiell text, praktisk tolkning, centrala skyldigheter och efterlevnadskonsekvenser.
Sammanfattning av den officiella texten
Artikel 76 i förordning (EU) 2024/1689 tilldelar marknadskontrollmyndigheter specifika tillsynsbefogenheter avseende testning av högrisksystem för AI under verkliga förhållanden enligt Artikel 60. Artikeln fastställer att när sådan testning äger rum på en medlemsstats territorium har den behöriga marknadskontrollmyndigheten för det territoriet jurisdiktion att övervaka testningens genomförande och kontrollera att alla villkor som föreskrivs av Artikel 60 uppfylls under hela testperioden.
Myndigheterna har befogenhet att begära tillgång till all dokumentation som ligger till grund för testningen under verkliga förhållanden, inklusive testplanen, de informerade samtyckesförfaranden som tillämpas på deltagare och alla register som genererats av AI-systemet under drift. Om myndigheten identifierar omständigheter som tyder på att testningen ger upphov till en risk — i synnerhet för fysiska personers hälsa, säkerhet eller grundläggande rättigheter — får den beordra avbrytande eller definitiv upphörande av testverksamheten. Sådana beslut måste skyndsamt kommuniceras till Europeiska kommissionen och marknadskontrollmyndigheterna i övriga medlemsstater via unionens befintliga infrastruktur för information och kommunikation om produktsäkerhet.
Artikeln behandlar även samordning mellan myndigheter när testning sträcker sig över flera medlemsstater, och utser myndigheten i den medlemsstat där leverantören är etablerad som ledande tillsynsmyndighet, med bibehållen rätt för varje berörd myndighet att vidta skyddsåtgärder på sitt eget territorium. Detta speglar den samordnade tillsynsmodell som tillämpas enligt annan harmoniseringslagstiftning i unionen och säkerställer att gränsöverskridande testning under verkliga förhållanden inte hamnar i ett tillsynsvakuum.
Vad detta innebär i praktiken
För leverantörer och driftsättare som genomför testning under verkliga förhållanden av högrisksystem för AI innebär Artikel 76 att testning inte är en självreglerad verksamhet: en utsedd marknadskontrollmyndighet behåller fortlöpande tillsynsbefogenhet från det att testningen börjar tills den avslutas.
I praktiska termer måste en AI-leverantör som exempelvis genomför ett pilotprojekt av ett system för stöd vid medicinsk diagnos hos patienter i två medlemsstater identifiera den ledande tillsynsmyndigheten — vanligtvis myndigheten i den medlemsstat där leverantören är etablerad — och säkerställa att all testdokumentation som krävs enligt Artikel 60 finns tillgänglig för inspektion med kort varsel. Om myndigheten begär tillgång till systemloggar, registret över informerade samtycken eller incidenthanteringsregistren, måste dessa tillhandahållas inom den tidsfrist som myndigheten anger, vilket i brådskande situationer kan vara så kort som några dagar.
Driftsättare (sjukhus, rekryteringsföretag, kreditinstitut eller andra organisationer som integrerar en leverantörs system) delar efterlevnadsbördan. De måste samarbeta med tillsynsinspektioner och får inte hindra myndighetens tillgång till testplatser eller systemgränssnitt.
När testning ger upphov till en allvarlig incident — en skada, nära-miss eller oväntad ogynnsam utgång som involverar en deltagare — aktiveras anmälningsskyldigheterna i Artikel 73 parallellt, och marknadskontrollmyndigheten som utövar tillsyn enligt Artikel 76 blir omedelbar mottagare av den anmälan. Organisationer bör därför integrera sina incidenthanteringsförfaranden med sina testningsstyrningsramverk innan testning påbörjas, inte efter att en incident har inträffat.
Multinationella testningsprogram bör utse en enda intern efterlevnadsansvarig med ansvar för samordning med medlemsstatsmyndigheter, och bör i förväg kartlägga vilken myndighet som har ledande jurisdiktion och vilka som har parallella territoriella befogenheter.
Centrala skyldigheter
- Leverantörer och driftsättare måste bevara all dokumentation om testning under verkliga förhållanden — inklusive testplanen, deltagarnas samtyckesregister, riskhanteringsregister och systemdriftsloggar — i en form som omedelbart är tillgänglig för den behöriga marknadskontrollmyndigheten under testningens varaktighet.
- På begäran av marknadskontrollmyndigheten måste leverantörer och driftsättare tillhandahålla all information, alla data eller all tillgång som myndigheten behöver för att bedöma efterlevnaden av de villkor som anges i Artikel 60, inom den tidsfrist som myndigheten anger.
- När testning sträcker sig över flera medlemsstater måste leverantören engagera den ledande tillsynsmyndigheten (myndigheten i etableringsstaten) och säkerställa att alla berörda territoriella myndigheter är informerade och kan vidta skyddsåtgärder inom sin jurisdiktion.
- När en marknadskontrollmyndighet beordrar avbrytande eller upphörande av testning under verkliga förhållanden måste leverantören och driftsättaren omedelbart efterkomma detta och upphöra med all testverksamhet på unionens territorium tills myndigheten upphäver åtgärden eller frågan löses genom tillämpligt granskningsförfarande.
- Varje allvarlig incident som inträffar under testning under verkliga förhållanden måste anmälas till den övervakande marknadskontrollmyndigheten i enlighet med de tidsramar och förfaranden som fastställts enligt Artikel 73, utan att invänta slutsatsen av en intern utredning.
- Leverantörer och driftsättare måste i god tro samarbeta med marknadskontrollinspektioner, inklusive att ge tillgång på plats till anläggningar, personal och AI-systemgränssnitt när detta begärs.
Förhållande till andra artiklar
Artikel 76 befinner sig i skärningspunkten för flera sammanlänkade bestämmelser i förordning (EU) 2024/1689. Dess primära koppling är till Artikel 60, som definierar de materiella villkoren under vilka testning under verkliga förhållanden av högrisksystem för AI är tillåten; Artikel 76 är den verkställande motparten som ger dessa villkor bindande kraft genom tillsynsövervakning.
Den bygger på det allmänna marknadskontrollramverk som upprättas av Artiklarna 74 och 75, som definierar de befogenheter och förfaranden som är tillgängliga för marknadskontrollmyndigheter för alla kategorier av AI-system, och bör läsas tillsammans med dessa artiklar för att förstå det fulla omfånget av tillgängliga utrednings- och korrigeringsbefogenheter.
Artikeln kopplar till Artikel 73 om rapportering av allvarliga incidenter, eftersom incidenter som uppstår under övervakad testning omedelbart aktiverar den artikelns anmälningskedja. Artikel 57 om AI-regulatoriska sandboxar är en relaterad men separat bestämmelse: sandboxar verkar under nationella behöriga myndigheters tillsyn med särskilda undantag, medan Artikel 76 reglerar testning under verkliga förhållanden inom ramen för det standardiserade marknadskontrollregimet.
Artiklarna 85 och 86 om sanktioner och tillgång till rättslig prövning är relevanta längre ned i kedjan: underlåtenhet att samarbeta med Artikel 76-tillsyn kan utgöra ett efterlevnadsbrott som medför administrativa böter enligt förordningens sanktionsramverk.
Efterlevnadstidslinje
Förordning (EU) 2024/1689 trädde i kraft den 1 augusti 2024, vilket markerar starten på det stegvisa tillämpningsschemat. Artikel 76, som del av avdelning IX om övervakning efter utsläppande på marknaden och marknadskontroll, omfattas av de bestämmelser som blir fullt tillämpliga på högrisksystem för AI under den andra och tredje tillämpningsfasen.
För högrisksystem för AI som förtecknas i Bilaga III (fristående högriskapplikationer) gäller fullständiga marknadskontrollskyldigheter — inklusive Artikel 76-tillsyn av testning under verkliga förhållanden — från och med 2 augusti 2026. För högrisksystem för AI som är säkerhetskomponenter i produkter som regleras av befintlig harmoniseringslagstiftning i unionen som förtecknas i Bilaga I (såsom medicintekniska produkter och maskiner) är det tillämpliga datumet 2 augusti 2027.
Leverantörer som planerar testning under verkliga förhållanden av högriskssystem bör behandla augusti 2026 som den hårda tidsgränsen för att ha ett kompatibelt styrningsramverk för testning på plats, inklusive dokumenterade förfaranden för myndighetstillgång, incidenteskalering och gränsöverskridande samordning. Med tanke på att testprogram ofta pågår i sex till tolv månader innan ett system når driftsättning, bör styrningsramverk realistiskt sett vara utformade och testade senast i början av 2026 för att undvika förseningar vid marknadsinträde.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Marknadskontrollmyndigheter får utöva tillsyn över testning under verkliga förhållanden som genomförs enligt Artikel 60. De kan begära dokumentation, få tillgång till testmiljöer och kräva att operatörer eller leverantörer tillhandahåller all information som behövs för att verifiera efterlevnad. De kan även ingripa för att avbryta eller begränsa testning när de identifierar en risk för skada på hälsa, säkerhet eller grundläggande rättigheter.
Både leverantörer och driftsättare (operatörer) som genomför eller underlättar testning av högrisksystem för AI under verkliga förhållanden enligt Artikel 60 är föremål för tillsyn av den behöriga marknadskontrollmyndigheten i den medlemsstat där testningen äger rum.
Ja. Om en marknadskontrollmyndighet finner att testning utgör en oacceptabel risk för personers hälsa, säkerhet eller grundläggande rättigheter, får den beordra omedelbart avbrytande eller upphörande av testverksamheten och måste underrätta kommissionen och övriga medlemsstater via övervakningsnätverket RAPEX/ICSMS.
Artikel 76 kompletterar Artikel 57, som inrättar AI-regulatoriska sandboxar. Medan sandboxar tillhandahåller en kontrollerad miljö under tillsyn av nationella behöriga myndigheter, reglerar Artikel 76 specifikt tillsynen av testning under verkliga förhållanden som genomförs utanför sandbox-ramverket enligt Artikel 60, och säkerställer att marknadskontrollmyndigheter behåller tillsynsbefogenheter när AI-system testas på faktiska populationer.
Leverantörer och driftsättare måste tillhandahålla den godkända eller anmälda testplanen för testning under verkliga förhållanden enligt Artikel 60, register över informerat samtycke, loggar över systemdrift, uppgifter om det tillämpade ramverket för riskhantering och eventuella rapporter om allvarliga incidenter. Myndigheterna kan inspektera dessa dokument på plats eller begära att de lämnas in inom angivna tidsfrister.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.