Člen 76 Uredbe (EU) 2024/1689 — Nadzor testiranja v realnih pogojih s strani organov za nadzor trga. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 76 Uredbe (EU) 2024/1689 podeljuje organom za nadzor trga posebna nadzorna pooblastila pri testiranju visokorizičnih sistemov UI v realnih pogojih, kot je predvideno v Členu 60. Člen določa, da kadar takšno testiranje poteka na ozemlju države članice, ima pristojni organ za nadzor trga za to ozemlje pristojnost za nadzor izvajanja testa in preverjanje, da so vsi pogoji, ki jih predpisuje Člen 60, izpolnjeni v celotnem obdobju testiranja.

Organi so pooblaščeni, da zahtevajo dostop do vse dokumentacije, ki je osnova testiranja v realnih pogojih, vključno z načrtom testiranja, postopki informiranega soglasja, ki se uporabljajo za udeležence, in vsemi zapisi, ki jih sistem UI ustvari med delovanjem. Kadar organ ugotovi okoliščine, ki nakazujejo, da testiranje povzroča tveganje — zlasti za zdravje, varnost ali temeljne pravice fizičnih oseb — lahko odredi prekinitev ali dokončno prenehanje testne dejavnosti. Takšne odločitve je treba nemudoma sporočiti Evropski komisiji in organom za nadzor trga drugih držav članic prek obstoječe infrastrukture Unije za informiranje in komuniciranje o varnosti proizvodov.

Člen obravnava tudi koordinacijo med organi, kadar testiranje zajema več držav članic, pri čemer je organ države članice, v kateri ima ponudnik sedež, določen kot glavni nadzornik, pri čemer se ohrani pravica vsakega zadevnega organa, da na svojem ozemlju sprejme zaščitne ukrepe. To odraža usklajeni model izvrševanja, ki se uporablja v okviru druge harmonizacijske zakonodaje Unije, in zagotavlja, da čezmejna testiranja v realnih pogojih ne padejo v nadzorni vakuum.

Kaj to pomeni v praksi

Za ponudnike in upravljavce, ki izvajajo testiranje visokorizičnih sistemov UI v realnih pogojih, Člen 76 pomeni, da testiranje ni samoregulirana dejavnost: določeni organ za nadzor trga ohrani neprekinjeno nadzorno pristojnost od trenutka, ko se testiranje začne, do njegovega zaključka.

V praktičnem smislu mora ponudnik UI, ki na primer izvaja pilotni projekt sistema za podporo pri medicinski diagnozi pri bolnikih v dveh državah članicah, identificirati vodilni nadzorni organ — praviloma organ v državi članici, v kateri ima ponudnik sedež — in zagotoviti, da je vsa testna dokumentacija, ki se zahteva v skladu s Členom 60, na voljo za pregled z kratkim odpovednim rokom. Če organ zahteva dostop do sistemskih dnevnikov, registra informiranega soglasja ali zapisov upravljanja incidentov, jih je treba predložiti v roku, ki ga določi organ in ki je v nujnih primerih lahko le nekaj dni.

Upravljavci (bolnišnice, agencije za zaposlovanje, kreditne institucije ali druge organizacije, ki vgrajujejo ponudnikov sistem) si delijo breme skladnosti. Sodelovati morajo z nadzornimi inšpekcijami in ne smejo ovirati dostopa organa do testnih mest ali sistemskih vmesnikov.

Kadar testiranje povzroči resen incident — škodo, skorajšnjo nesrečo ali nepričakovan neugoden izid, ki vključuje udeleženca — se obveznosti priglasitve iz Člena 73 sprožijo vzporedno, organ za nadzor trga, ki opravlja nadzor v skladu s Členom 76, pa postane takojšnji prejemnik te priglasitve. Organizacije bi zato morale postopke odzivanja na incidente integrirati s svojimi okviri upravljanja testiranja pred začetkom testiranja, ne pa po nastanku incidenta.

Multinacionalni testni programi bi morali imenovati enega internega lastnika za skladnost, odgovornega za usklajevanje z organi držav članic, in vnaprej določiti, kateri organ ima vodilno pristojnost in kateri imajo vzporedna ozemeljska pooblastila.

Ključne obveznosti

Razmerje do drugih členov

Člen 76 se nahaja na stičišču več medsebojno povezanih določb Uredbe (EU) 2024/1689. Njegova primarna povezava je s Členom 60, ki opredeljuje vsebinske pogoje, pod katerimi je testiranje visokorizičnih sistemov UI v realnih pogojih dovoljeno; Člen 76 je izvršilna ustreznica, ki tem pogojem daje zavezujočo moč prek nadzornega nadzora.

Opira se na splošni okvir nadzora trga, ki ga vzpostavljata Člena 74 in 75, ki opredeljujeta pooblastila in postopke, ki so na voljo organom za nadzor trga za vse kategorije sistemov UI, in ga je treba brati skupaj s tistima členoma, da se razume celoten obseg razpoložljivih preiskovalnih in korektivnih pooblastil.

Člen se navezuje na Člen 73 o poročanju o resnih incidentih, saj incidenti, ki nastanejo med nadzorovanim testiranjem, nemudoma aktivirajo priglasitev po tem členu. Člen 57 o regulatornih peskovnikih za UI je sorodna, a ločena določba: peskovniki delujejo pod nadzorom nacionalnih pristojnih organov s posebnimi odstopanji, medtem ko Člen 76 ureja testiranje v realnih pogojih v okviru standardnega režima nadzora trga.

Člena 85 in 86 o sankcijah in dostopu do pravnega varstva sta relevantna na nižji ravni: nesodelovanje z nadzorom v skladu s Členom 76 lahko pomeni kršitev skladnosti, za katero so na podlagi okvira sankcij zakona predvidene upravne globe.

Časovnica za skladnost

Uredba (EU) 2024/1689 je začela veljati 1. avgusta 2024, kar označuje začetek postopnega urnika uporabe. Člen 76 kot del Naslova IX o poonomerjalnem spremljanju in nadzoru trga spada med določbe, ki se v celoti začnejo uporabljati za visokorizične sisteme UI v drugi in tretji fazi uporabe.

Za visokorizične sisteme UI, naštete v Prilogi III (samostojne visokorizične aplikacije), se polne obveznosti nadzora trga — vključno z nadzorom testiranja v realnih pogojih v skladu s Členom 76 — uporabljajo od 2. avgusta 2026. Za visokorizične sisteme UI, ki so varnostne komponente proizvodov, urejenih z obstoječo harmonizacijsko zakonodajo Unije, našteto v Prilogi I (kot so medicinski pripomočki in stroji), je veljavni datum 2. avgust 2027.

Ponudniki, ki načrtujejo testiranje visokorizičnih sistemov v realnih pogojih, bi morali august 2026 obravnavati kot trdi rok za vzpostavitev skladnih okvirov upravljanja testiranja, vključno z dokumentiranimi postopki za dostop organov, stopnjevanje incidentov in čezmejno usklajevanje. Glede na to, da testni programi pogosto tečejo šest do dvanajst mesecev, preden sistem doseže uvajanje, bi morali biti okviri upravljanja realistično načrtovani in preizkušeni najpozneje do zgodaj leta 2026, da bi se izognili zamudam pri vstopu na trg.

Official AI Act Compliance Deadline Calendar

Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.

Obligation Applies to Original date New date Status Countdown Legal basis
Prohibited Practices (Art. 5) All providers and deployers active AI Act Art. 5
GPAI Rules (Chapter 5) GPAI model providers active AI Act Art. 51-56
AI-Generated Content Marking Providers of generative GPAI systems active AI Act Art. 50(2)
Regulatory Sandboxes National competent authorities active AI Act Art. 57
High-risk AI — Annex III (standalone) Providers of standalone Annex III systems deferred AI Omnibus 2026 Art. 6(2)
High-risk AI — Annex I (embedded) AI embedded in Annex I regulated products deferred AI Omnibus 2026 Art. 6(1)

Download JSON · CC BY 4.0

Frequently Asked Questions

Organi za nadzor trga lahko nadzorujejo testiranje v realnih pogojih, ki se izvaja v skladu s Členom 60. Lahko zahtevajo dokumentacijo, dostop do testnih okolij in od upravljavcev ali ponudnikov zahtevajo vse informacije, potrebne za preverjanje skladnosti. Posredujejo lahko tudi z namenom prekinitve ali omejitve testiranja, kadar ugotovijo tveganje škode za zdravje, varnost ali temeljne pravice.

Tako ponudniki kot upravljavci, ki izvajajo ali olajšujejo testiranje visokorizičnih sistemov UI v realnih pogojih v skladu s Členom 60, so podvrženi nadzoru pristojnega organa za nadzor trga v državi članici, kjer testiranje poteka.

Da. Kadar organ za nadzor trga ugotovi, da testiranje predstavlja nesprejemljivo tveganje za zdravje, varnost ali temeljne pravice oseb, lahko odredi takojšnjo prekinitev ali prenehanje testnih dejavnosti ter mora obvestiti Komisijo in druge države članice prek nadzorne mreže RAPEX/ICSMS.

Člen 76 dopolnjuje Člen 57, ki vzpostavlja regulatorne peskovnike za UI. Medtem ko peskovniki zagotavljajo nadzorovano okolje pod nadzorom nacionalnih pristojnih organov, Člen 76 posebej ureja nadzor testiranja v realnih pogojih, ki se izvaja zunaj okvira peskovnika v skladu s Členom 60, s čimer zagotavlja, da organi za nadzor trga ohranijo nadzorna pooblastila, kadar se sistemi UI testirajo na dejanskih populacijah.

Ponudniki in upravljavci morajo dati na voljo odobreni ali priglašeni načrt testiranja v realnih pogojih v skladu s Členom 60, zapise o informiranem soglasju, dnevnike delovanja sistema, podrobnosti o uporabljenem okviru za upravljanje tveganj in vse poročila o resnih incidentih. Organi lahko te dokumente pregledajo na kraju samem ali zahtevajo njihovo predložitev v določenih rokih.

Stay ahead of AI Act changes

Get compliance alerts when deadlines or obligations change.

No spam. One-click unsubscribe.

Take compliance further with the AI Act Academy

Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.