Article 76 — Dohled nad testováním v reálných podmínkách ze strany orgánů dozoru nad trhem (Akt EU o AI)

Article 76 Nařízení (EU) 2024/1689 — Dohled nad testováním v reálných podmínkách ze strany orgánů dozoru nad trhem. Oficiální text, praktický výklad, klíčové povinnosti a důsledky pro dodržování předpisů.

Shrnutí oficiálního znění

Article 76 Nařízení (EU) 2024/1689 svěřuje orgánům dozoru nad trhem konkrétní dozorné pravomoci nad testováním vysoce rizikových systémů AI v reálných podmínkách podle Article 60. Článek stanoví, že pokud takové testování probíhá na území členského státu, má příslušný orgán dozoru nad trhem pro toto území jurisdikci dohlížet na průběh testu a ověřovat, zda jsou po celou dobu testování splňovány všechny podmínky předepsané Article 60.

Orgány jsou oprávněny vyžadovat přístup ke vší dokumentaci podporující testování v reálných podmínkách, včetně plánu testování, postupů informovaného souhlasu uplatněných vůči účastníkům a veškerých záznamů generovaných systémem AI při provozu. Pokud orgán identifikuje okolnosti naznačující, že testování přináší riziko — zejména pro zdraví, bezpečnost nebo základní práva fyzických osob — může nařídit pozastavení nebo definitivní ukončení testovací činnosti. Taková rozhodnutí musí být neprodleně sdělena Evropské komisi a orgánům dozoru nad trhem ostatních členských států prostřednictvím stávající unijní infrastruktury informací a komunikace o bezpečnosti výrobků.

Článek rovněž řeší koordinaci mezi orgány, když testování zahrnuje více členských států, přičemž jako vedoucí dozorce určuje orgán členského státu, kde je poskytovatel usazen, a zároveň zachovává právo každého dotčeného orgánu přijímat ochranná opatření na svém území. To zrcadlí koordinovaný model vymáhání uplatňovaný v rámci jiného harmonizačního zákonodárství Unie a zajišťuje, že přeshraniční testování v reálných podmínkách neupadne do dozorného vakua.

Co to znamená v praxi

Pro poskytovatele a provozovatele provádějící testování vysoce rizikových systémů AI v reálných podmínkách znamená Article 76, že testování není samoregulovanou činností: určený orgán dozoru nad trhem si zachovává průběžnou dozornou pravomoc od okamžiku zahájení testování až do jeho ukončení.

V praktickém smyslu musí poskytovatel AI provádějící pilotní projekt například diagnostického systému pro podporu lékařské diagnostiky na pacientech ve dvou členských státech identifikovat vedoucí dozorný orgán — obvykle orgán v členském státě, kde je poskytovatel usazen — a musí zajistit, aby veškerá testovací dokumentace požadovaná podle Article 60 byla k dispozici pro kontrolu v krátkém čase. Pokud orgán požaduje přístup k systémovým protokolům, registru informovaného souhlasu nebo záznamům o řízení incidentů, musí být tyto předloženy ve lhůtě stanovené orgánem, která může být v naléhavých situacích tak krátká jako několik dní.

Provozovatelé (nemocnice, náborové agentury, úvěrové instituce nebo jiné organizace integrující systém poskytovatele) sdílejí zátěž dodržování předpisů. Musí spolupracovat s dozorčími inspekcemi a nesmí bránit přístupu orgánu k testovacím místům nebo systémovým rozhraním.

Pokud testování generuje závažný incident — újmu, téměř nehodu nebo neočekávaný nežádoucí výsledek zahrnující účastníka — jsou paralelně spuštěny oznamovací povinnosti Article 73 a orgán dozoru nad trhem dohlížející podle Article 76 se stává okamžitým příjemcem tohoto oznámení. Organizace by proto měly integrovat své postupy reakce na incidenty se svými rámci řízení testování před zahájením testování, nikoli po výskytu incidentu.

Nadnárodní testovací programy by měly jmenovat jediného interního vlastníka pro dodržování předpisů odpovědného za koordinaci s orgány v členských státech a měly by předem zmapovat, který orgán má vedoucí jurisdikci a které mají souběžné územní pravomoci.

Klíčové povinnosti

• Poskytovatelé a provozovatelé musí udržovat veškerou dokumentaci testování v reálných podmínkách — včetně plánu testování, záznamů souhlasu účastníků, záznamů řízení rizik a protokolů o provozu systému — ve formě, která je okamžitě přístupná příslušnému orgánu dozoru nad trhem po dobu trvání testu.
• Na vyžádání orgánem dozoru nad trhem musí poskytovatelé a provozovatelé poskytnout jakékoli informace, data nebo přístup nezbytný pro orgán k posouzení shody s podmínkami stanovenými v Article 60, ve lhůtě stanovené orgánem.
• Pokud testování zahrnuje více členských států, musí poskytovatel zapojit vedoucí dozorný orgán (orgán členského státu usazení) a zajistit, aby všechny dotčené územní orgány byly informovány a mohly uplatňovat ochranná opatření ve své jurisdikci.
• Pokud orgán dozoru nad trhem nařídí pozastavení nebo ukončení testování v reálných podmínkách, musí poskytovatel a provozovatel okamžitě dodržet toto nařízení a musí zastavit veškeré testovací činnosti na území Unie, dokud orgán opatření nezruší nebo dokud nebude záležitost vyřešena prostřednictvím příslušného přezkumného postupu.
• Jakýkoli závažný incident vzniklý během testování v reálných podmínkách musí být oznámen dozorčímu orgánu dozoru nad trhem v souladu s lhůtami a postupy stanovenými v Article 73, aniž by se čekalo na závěr interního vyšetřování.
• Poskytovatelé a provozovatelé musí v dobré víře spolupracovat s inspekcemi dohledu nad trhem, včetně poskytování přístupu na místo k zařízením, pracovníkům a rozhraním systému AI na vyžádání.

Vztah k ostatním článkům

Article 76 se nachází na průsečíku několika vzájemně propojených ustanovení Nařízení (EU) 2024/1689. Jeho primární spojení je s Article 60, který definuje hmotněprávní podmínky, za nichž je povoleno testování vysoce rizikových systémů AI v reálných podmínkách; Article 76 je vymáhací protějšek, který těmto podmínkám dává závaznou sílu prostřednictvím dozorného dohledu.

Čerpá z obecného rámce dohledu nad trhem zavedeného Articles 74 a 75, které definují pravomoci a postupy dostupné orgánům dozoru nad trhem napříč všemi kategoriemi systémů AI, a měl by být čten spolu s těmito články, aby se pochopil plný rozsah vyšetřovacích a nápravných pravomocí, které jsou k dispozici.

Článek se propojuje s Article 73 o hlášení závažných incidentů, protože incidenty vzniklé během dozorovaného testování okamžitě aktivují oznamovací řetězec tohoto článku. Article 57 o regulačních sandboxech AI je příbuzné, ale odlišné ustanovení: sandboxy fungují pod dohledem vnitrostátních příslušných orgánů s zvláštními odchylkami, zatímco Article 76 upravuje testování v reálných podmínkách v rámci standardního režimu dohledu nad trhem.

Articles 85 a 86 o sankcích a přístupu ke spravedlnosti jsou relevantní v navazující fázi: nesplnění povinnosti spolupracovat s dohledem podle Article 76 může představovat porušení předpisů přitahující správní pokuty podle sankčního rámce Aktu.

Časová osa dodržování předpisů

Nařízení (EU) 2024/1689 vstoupilo v platnost dne 1. srpna 2024, čímž byl zahájen postupný harmonogram uplatňování. Article 76, jako součást Title IX o monitorování po uvedení na trh a dohledu nad trhem, spadá do ustanovení, která se plně použijí na vysoce rizikové systémy AI ve druhé a třetí fázi uplatňování.

Pro vysoce rizikové systémy AI uvedené v Annex III (samostatné vysoce rizikové aplikace) platí plné povinnosti dohledu nad trhem — včetně dohledu Article 76 nad testováním v reálných podmínkách — od 2. srpna 2026. Pro vysoce rizikové systémy AI, které jsou bezpečnostními komponenty produktů regulovaných stávajícím harmonizačním zákonodárstvím Unie uvedeným v Annex I (jako jsou zdravotnické prostředky a strojní zařízení), je příslušné datum 2. srpna 2027.

Poskytovatelé plánující testování vysoce rizikových systémů v reálných podmínkách by měli považovat srpen 2026 za pevný termín pro zavedení vyhovujících rámců řízení testování, včetně zdokumentovaných postupů pro přístup orgánu, eskalaci incidentů a přeshraniční koordinaci. Vzhledem k tomu, že testovací programy často běží šest až dvanáct měsíců před tím, než systém dosáhne nasazení, by rámce správy měly být realisticky navrženy a otestovány nejpozději do počátku roku 2026, aby se předešlo zpožděním při vstupu na trh.