Článok 76 — Dohľad nad testovaním v reálnych podmienkach zo strany orgánov dohľadu nad trhom (Nariadenie EÚ o umelej inteligencii)

Článok 76 nariadenia (EÚ) 2024/1689 — Dohľad nad testovaním v reálnych podmienkach zo strany orgánov dohľadu nad trhom. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre dodržiavanie súladu.

Zhrnutie oficiálneho textu

Článok 76 nariadenia (EÚ) 2024/1689 udeľuje orgánom dohľadu nad trhom osobitné právomoci dohľadu nad testovaním systémov umelej inteligencie s vysokým rizikom v reálnych podmienkach, ako je stanovené v Článku 60. Článok ustanovuje, že ak takéto testovanie prebieha na území členského štátu, príslušný orgán dohľadu nad trhom pre toto územie má jurisdikciu na dohliadanie na priebeh testu a overenie, že všetky podmienky predpísané Článkom 60 sú počas celého obdobia testovania dodržiavané.

Orgány sú oprávnené požadovať prístup k všetkej dokumentácii, na ktorej je testovanie v reálnych podmienkach založené, vrátane plánu testovania, postupov informovaného súhlasu uplatňovaných na účastníkov a všetkých záznamov generovaných systémom umelej inteligencie počas prevádzky. Ak orgán identifikuje okolnosti naznačujúce, že testovanie vedie k riziku — najmä pre zdravie, bezpečnosť alebo základné práva fyzických osôb — môže nariadiť pozastavenie alebo definitívne ukončenie testovacej činnosti. Takéto rozhodnutia musia byť bezodkladne oznámené Európskej komisii a orgánom dohľadu nad trhom ostatných členských štátov prostredníctvom existujúcej infraštruktúry Únie pre informácie a komunikáciu v oblasti bezpečnosti výrobkov.

Článok sa zaoberá aj koordináciou medzi orgánmi, keď testovanie zahŕňa viaceré členské štáty, pričom za hlavného dozorného orgánu sa určuje orgán členského štátu, v ktorom má poskytovateľ sídlo, pričom sa zachováva právo každého dotknutého orgánu prijímať ochranné opatrenia na vlastnom území. To odráža koordinovaný model vymáhania práva uplatňovaný podľa iných harmonizačných právnych predpisov Únie a zabezpečuje, aby cezhraničné testy v reálnych podmienkach nezapadli do dozorného vákua.

Čo to znamená v praxi

Pre poskytovateľov a prevádzkovateľov, ktorí vykonávajú testovanie systémov umelej inteligencie s vysokým rizikom v reálnych podmienkach, Článok 76 znamená, že testovanie nie je samoregulovanou činnosťou: určený orgán dohľadu nad trhom si zachováva nepretržitú právomoc dohľadu od okamihu začatia testovania až do jeho ukončenia.

V praktickej rovine musí poskytovateľ umelej inteligencie, ktorý napríklad vykonáva pilotný projekt systému podpory medicínskej diagnostiky u pacientov v dvoch členských štátoch, identifikovať hlavný dozorný orgán — zvyčajne orgán v členskom štáte, v ktorom má poskytovateľ sídlo — a musí zabezpečiť, aby všetka testovacia dokumentácia požadovaná podľa Článku 60 bola dostupná na kontrolu v krátkom čase. Ak orgán požaduje prístup k systémovým protokolom, registru informovaného súhlasu alebo záznamom správy incidentov, tieto musia byť predložené v lehote stanovenej orgánom, ktorá môže byť v naliehavých situáciách len niekoľko dní.

Prevádzkovatelia (nemocnice, náborové agentúry, úverové inštitúcie alebo iné organizácie, ktoré integrujú systém poskytovateľa) nesú spoločné bremeno súladu. Musia spolupracovať pri dozorných inšpekciách a nesmú brániť prístupu orgánu k testovacím miestam alebo systémovým rozhraniam.

Ak testovanie vedie k závažnému incidentu — ujme, takmer-nehode alebo neočakávaným nepriaznivým výsledkom zahŕňajúcim účastníka — oznamovacie povinnosti Článku 73 sa spúšťajú súbežne a orgán dohľadu nad trhom vykonávajúci dohľad podľa Článku 76 sa stáva okamžitým príjemcom tohto oznámenia. Organizácie by preto mali integrovať svoje postupy reakcie na incidenty s rámcami správy testovania pred začatím testovania, nie po tom, čo dôjde k incidentu.

Nadnárodné testovacie programy by mali vymenovať jedného interného vlastníka súladu zodpovedného za koordináciu s orgánmi členských štátov a vopred zmapovať, ktorý orgán má hlavnú jurisdikciu a ktoré majú súbežné územné právomoci.

Kľúčové povinnosti

• Poskytovatelia a prevádzkovatelia musia uchovávať všetku dokumentáciu testovania v reálnych podmienkach — vrátane plánu testovania, záznamov o súhlase účastníkov, záznamov riadenia rizík a protokolov o fungovaní systému — vo forme, ktorá je okamžite dostupná príslušnému orgánu dohľadu nad trhom počas trvania testu.
• Na žiadosť orgánu dohľadu nad trhom musia poskytovatelia a prevádzkovatelia poskytnúť všetky informácie, údaje alebo prístup potrebný na to, aby orgán mohol posúdiť súlad s podmienkami stanovenými v Článku 60, v lehote stanovenej orgánom.
• Ak testovanie zahŕňa viaceré členské štáty, musí poskytovateľ zapojiť hlavný dozorný orgán (orgán členského štátu usadenia) a zabezpečiť, aby všetky dotknuté územné orgány boli informované a mohli prijímať ochranné opatrenia v rámci svojej jurisdikcie.
• Ak orgán dohľadu nad trhom nariadi pozastavenie alebo ukončenie testovania v reálnych podmienkach, poskytovateľ a prevádzkovateľ musia okamžite vyhovieť a musia zastaviť všetky testovacie činnosti na území Únie, kým orgán opatrenie nezruší alebo kým sa vec nevyrieši prostredníctvom príslušného postupu preskúmania.
• Každý závažný incident, ktorý nastane počas testovania v reálnych podmienkach, musí byť oznámený dozornému orgánu dohľadu nad trhom v súlade s lehotami a postupmi stanovenými podľa Článku 73, bez čakania na záver interného vyšetrovania.
• Poskytovatelia a prevádzkovatelia musia v dobrej viere spolupracovať pri inšpekciách dohľadu nad trhom, vrátane poskytovania prístupu na mieste k zariadeniam, personálu a rozhraniam systémov umelej inteligencie, keď sa o to požiada.

Vzťah k iným článkom

Článok 76 sa nachádza na priesečníku niekoľkých vzájomne prepojených ustanovení nariadenia (EÚ) 2024/1689. Jeho primárna väzba je s Článkom 60, ktorý definuje vecné podmienky, za ktorých je testovanie systémov umelej inteligencie s vysokým rizikom v reálnych podmienkach povolené; Článok 76 je vymáhacím náprotivkom, ktorý dáva týmto podmienkam záväzný charakter prostredníctvom dozorného dohľadu.

Vychádza zo všeobecného rámca dohľadu nad trhom ustanoveného Článkami 74 a 75, ktoré vymedzujú právomoci a postupy dostupné orgánom dohľadu nad trhom pre všetky kategórie systémov umelej inteligencie, a treba ho čítať spolu s týmito článkami, aby sa pochopil úplný rozsah dostupných vyšetrovacích a nápravných právomocí.

Článok sa spája s Článkom 73 o hlásení závažných incidentov, keďže incidenty, ktoré nastanú počas dohľadovaného testovania, okamžite aktivujú oznamovací reťazec tohto článku. Článok 57 o regulačných prostrediach sandbox pre umelú inteligenciu je súvisiacim, ale osobitným ustanovením: prostredia sandbox fungujú pod dohľadom národných príslušných orgánov s osobitnými výnimkami, zatiaľ čo Článok 76 upravuje testovanie v reálnych podmienkach v rámci štandardného režimu dohľadu nad trhom.

Články 85 a 86 o sankciách a prístupe k spravodlivosti sú relevantné následne: nespolupráca s dohľadom podľa Článku 76 môže predstavovať porušenie súladu, za ktoré hrozia správne pokuty podľa sankčného rámca zákona.

Časový harmonogram súladu

Nariadenie (EÚ) 2024/1689 nadobudlo účinnosť 1. augusta 2024, čím sa začal harmonogram postupného uplatňovania. Článok 76 ako súčasť Hlavy IX o monitorovaní po uvedení na trh a dohľade nad trhom patrí k ustanoveniam, ktoré sa plne vzťahujú na systémy umelej inteligencie s vysokým rizikom v druhej a tretej fáze uplatňovania.

Pre systémy umelej inteligencie s vysokým rizikom uvedené v Prílohe III (samostatné aplikácie s vysokým rizikom) sa plné povinnosti dohľadu nad trhom — vrátane dohľadu podľa Článku 76 nad testovaním v reálnych podmienkach — uplatňujú od 2. augusta 2026. Pre systémy umelej inteligencie s vysokým rizikom, ktoré sú bezpečnostnými komponentmi výrobkov regulovaných existujúcimi harmonizačnými právnymi predpismi Únie uvedenými v Prílohe I (ako sú zdravotnícke pomôcky a strojové zariadenia), je príslušným dátumom 2. august 2027.

Poskytovatelia plánujúci testovanie systémov s vysokým rizikom v reálnych podmienkach by mali považovať august 2026 za pevnú hraničnú lehotu na zavedenie vyhovujúcich rámcov správy testovania, vrátane zdokumentovaných postupov prístupu orgánov, eskalácie incidentov a cezhraničnej koordinácie. Keďže testovacie programy zvyčajne prebiehajú šesť až dvanásť mesiacov pred tým, než systém dosiahne nasadenie, rámce správy by mali byť realisticky navrhnuté a otestované najneskôr začiatkom roka 2026, aby sa predišlo oneskoreniam pri vstupe na trh.