Člen 76 Uredbe (EU) 2024/1689 — Nadzor testiranja v realnih pogojih s strani organov za nadzor trga. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.
Povzetek uradnega besedila
Člen 76 Uredbe (EU) 2024/1689 podeljuje organom za nadzor trga posebna nadzorna pooblastila pri testiranju visokorizičnih sistemov UI v realnih pogojih, kot je predvideno v Členu 60. Člen določa, da kadar takšno testiranje poteka na ozemlju države članice, ima pristojni organ za nadzor trga za to ozemlje pristojnost za nadzor izvajanja testa in preverjanje, da so vsi pogoji, ki jih predpisuje Člen 60, izpolnjeni v celotnem obdobju testiranja.
Organi so pooblaščeni, da zahtevajo dostop do vse dokumentacije, ki je osnova testiranja v realnih pogojih, vključno z načrtom testiranja, postopki informiranega soglasja, ki se uporabljajo za udeležence, in vsemi zapisi, ki jih sistem UI ustvari med delovanjem. Kadar organ ugotovi okoliščine, ki nakazujejo, da testiranje povzroča tveganje — zlasti za zdravje, varnost ali temeljne pravice fizičnih oseb — lahko odredi prekinitev ali dokončno prenehanje testne dejavnosti. Takšne odločitve je treba nemudoma sporočiti Evropski komisiji in organom za nadzor trga drugih držav članic prek obstoječe infrastrukture Unije za informiranje in komuniciranje o varnosti proizvodov.
Člen obravnava tudi koordinacijo med organi, kadar testiranje zajema več držav članic, pri čemer je organ države članice, v kateri ima ponudnik sedež, določen kot glavni nadzornik, pri čemer se ohrani pravica vsakega zadevnega organa, da na svojem ozemlju sprejme zaščitne ukrepe. To odraža usklajeni model izvrševanja, ki se uporablja v okviru druge harmonizacijske zakonodaje Unije, in zagotavlja, da čezmejna testiranja v realnih pogojih ne padejo v nadzorni vakuum.
Kaj to pomeni v praksi
Za ponudnike in upravljavce, ki izvajajo testiranje visokorizičnih sistemov UI v realnih pogojih, Člen 76 pomeni, da testiranje ni samoregulirana dejavnost: določeni organ za nadzor trga ohrani neprekinjeno nadzorno pristojnost od trenutka, ko se testiranje začne, do njegovega zaključka.
V praktičnem smislu mora ponudnik UI, ki na primer izvaja pilotni projekt sistema za podporo pri medicinski diagnozi pri bolnikih v dveh državah članicah, identificirati vodilni nadzorni organ — praviloma organ v državi članici, v kateri ima ponudnik sedež — in zagotoviti, da je vsa testna dokumentacija, ki se zahteva v skladu s Členom 60, na voljo za pregled z kratkim odpovednim rokom. Če organ zahteva dostop do sistemskih dnevnikov, registra informiranega soglasja ali zapisov upravljanja incidentov, jih je treba predložiti v roku, ki ga določi organ in ki je v nujnih primerih lahko le nekaj dni.
Upravljavci (bolnišnice, agencije za zaposlovanje, kreditne institucije ali druge organizacije, ki vgrajujejo ponudnikov sistem) si delijo breme skladnosti. Sodelovati morajo z nadzornimi inšpekcijami in ne smejo ovirati dostopa organa do testnih mest ali sistemskih vmesnikov.
Kadar testiranje povzroči resen incident — škodo, skorajšnjo nesrečo ali nepričakovan neugoden izid, ki vključuje udeleženca — se obveznosti priglasitve iz Člena 73 sprožijo vzporedno, organ za nadzor trga, ki opravlja nadzor v skladu s Členom 76, pa postane takojšnji prejemnik te priglasitve. Organizacije bi zato morale postopke odzivanja na incidente integrirati s svojimi okviri upravljanja testiranja pred začetkom testiranja, ne pa po nastanku incidenta.
Multinacionalni testni programi bi morali imenovati enega internega lastnika za skladnost, odgovornega za usklajevanje z organi držav članic, in vnaprej določiti, kateri organ ima vodilno pristojnost in kateri imajo vzporedna ozemeljska pooblastila.
Ključne obveznosti
- Ponudniki in upravljavci morajo hraniti vso dokumentacijo testiranja v realnih pogojih — vključno z načrtom testiranja, zapisi o soglasju udeležencev, zapisi upravljanja tveganj in dnevniki delovanja sistema — v obliki, ki je nemudoma dostopna pristojnemu organu za nadzor trga za trajanje testa.
- Na zahtevo organa za nadzor trga morajo ponudniki in upravljavci zagotoviti vse informacije, podatke ali dostop, ki so potrebni, da organ oceni skladnost s pogoji, določenimi v Členu 60, v roku, ki ga določi organ.
- Kadar testiranje zajema več držav članic, mora ponudnik vključiti vodilni nadzorni organ (organ države članice, v kateri ima sedež) in zagotoviti, da so vsi zadevni ozemeljski organi obveščeni in lahko izvajajo zaščitne ukrepe v okviru svoje pristojnosti.
- Kadar organ za nadzor trga odredi prekinitev ali prenehanje testiranja v realnih pogojih, morata ponudnik in upravljavec nemudoma upoštevati odredbo in prenehati z vsemi testnimi dejavnostmi na ozemlju Unije, dokler organ ne odpravi ukrepa ali dokler zadeva ni razrešena po veljavnem postopku pregleda.
- Vsak resen incident, ki nastopi med testiranjem v realnih pogojih, je treba priglasiti nadzornemu organu za nadzor trga v skladu z roki in postopki, določenimi v skladu s Členom 73, ne da bi čakali na zaključek notranje preiskave.
- Ponudniki in upravljavci morajo v dobri veri sodelovati pri inšpekcijah nadzora trga, vključno z zagotavljanjem dostopa na kraju samem do prostorov, osebja in vmesnikov sistema UI, kadar je to zahtevano.
Razmerje do drugih členov
Člen 76 se nahaja na stičišču več medsebojno povezanih določb Uredbe (EU) 2024/1689. Njegova primarna povezava je s Členom 60, ki opredeljuje vsebinske pogoje, pod katerimi je testiranje visokorizičnih sistemov UI v realnih pogojih dovoljeno; Člen 76 je izvršilna ustreznica, ki tem pogojem daje zavezujočo moč prek nadzornega nadzora.
Opira se na splošni okvir nadzora trga, ki ga vzpostavljata Člena 74 in 75, ki opredeljujeta pooblastila in postopke, ki so na voljo organom za nadzor trga za vse kategorije sistemov UI, in ga je treba brati skupaj s tistima členoma, da se razume celoten obseg razpoložljivih preiskovalnih in korektivnih pooblastil.
Člen se navezuje na Člen 73 o poročanju o resnih incidentih, saj incidenti, ki nastanejo med nadzorovanim testiranjem, nemudoma aktivirajo priglasitev po tem členu. Člen 57 o regulatornih peskovnikih za UI je sorodna, a ločena določba: peskovniki delujejo pod nadzorom nacionalnih pristojnih organov s posebnimi odstopanji, medtem ko Člen 76 ureja testiranje v realnih pogojih v okviru standardnega režima nadzora trga.
Člena 85 in 86 o sankcijah in dostopu do pravnega varstva sta relevantna na nižji ravni: nesodelovanje z nadzorom v skladu s Členom 76 lahko pomeni kršitev skladnosti, za katero so na podlagi okvira sankcij zakona predvidene upravne globe.
Časovnica za skladnost
Uredba (EU) 2024/1689 je začela veljati 1. avgusta 2024, kar označuje začetek postopnega urnika uporabe. Člen 76 kot del Naslova IX o poonomerjalnem spremljanju in nadzoru trga spada med določbe, ki se v celoti začnejo uporabljati za visokorizične sisteme UI v drugi in tretji fazi uporabe.
Za visokorizične sisteme UI, naštete v Prilogi III (samostojne visokorizične aplikacije), se polne obveznosti nadzora trga — vključno z nadzorom testiranja v realnih pogojih v skladu s Členom 76 — uporabljajo od 2. avgusta 2026. Za visokorizične sisteme UI, ki so varnostne komponente proizvodov, urejenih z obstoječo harmonizacijsko zakonodajo Unije, našteto v Prilogi I (kot so medicinski pripomočki in stroji), je veljavni datum 2. avgust 2027.
Ponudniki, ki načrtujejo testiranje visokorizičnih sistemov v realnih pogojih, bi morali august 2026 obravnavati kot trdi rok za vzpostavitev skladnih okvirov upravljanja testiranja, vključno z dokumentiranimi postopki za dostop organov, stopnjevanje incidentov in čezmejno usklajevanje. Glede na to, da testni programi pogosto tečejo šest do dvanajst mesecev, preden sistem doseže uvajanje, bi morali biti okviri upravljanja realistično načrtovani in preizkušeni najpozneje do zgodaj leta 2026, da bi se izognili zamudam pri vstopu na trg.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Organi za nadzor trga lahko nadzorujejo testiranje v realnih pogojih, ki se izvaja v skladu s Členom 60. Lahko zahtevajo dokumentacijo, dostop do testnih okolij in od upravljavcev ali ponudnikov zahtevajo vse informacije, potrebne za preverjanje skladnosti. Posredujejo lahko tudi z namenom prekinitve ali omejitve testiranja, kadar ugotovijo tveganje škode za zdravje, varnost ali temeljne pravice.
Tako ponudniki kot upravljavci, ki izvajajo ali olajšujejo testiranje visokorizičnih sistemov UI v realnih pogojih v skladu s Členom 60, so podvrženi nadzoru pristojnega organa za nadzor trga v državi članici, kjer testiranje poteka.
Da. Kadar organ za nadzor trga ugotovi, da testiranje predstavlja nesprejemljivo tveganje za zdravje, varnost ali temeljne pravice oseb, lahko odredi takojšnjo prekinitev ali prenehanje testnih dejavnosti ter mora obvestiti Komisijo in druge države članice prek nadzorne mreže RAPEX/ICSMS.
Člen 76 dopolnjuje Člen 57, ki vzpostavlja regulatorne peskovnike za UI. Medtem ko peskovniki zagotavljajo nadzorovano okolje pod nadzorom nacionalnih pristojnih organov, Člen 76 posebej ureja nadzor testiranja v realnih pogojih, ki se izvaja zunaj okvira peskovnika v skladu s Členom 60, s čimer zagotavlja, da organi za nadzor trga ohranijo nadzorna pooblastila, kadar se sistemi UI testirajo na dejanskih populacijah.
Ponudniki in upravljavci morajo dati na voljo odobreni ali priglašeni načrt testiranja v realnih pogojih v skladu s Členom 60, zapise o informiranem soglasju, dnevnike delovanja sistema, podrobnosti o uporabljenem okviru za upravljanje tveganj in vse poročila o resnih incidentih. Organi lahko te dokumente pregledajo na kraju samem ali zahtevajo njihovo predložitev v določenih rokih.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.