Članak 76. — Nadzor testiranja u stvarnim uvjetima od strane tijela za nadzor tržišta (EU AI Act)

Članak 76. Uredbe (EU) 2024/1689 — Nadzor testiranja u stvarnim uvjetima od strane tijela za nadzor tržišta. Službeni tekst, praktična tumačenja, ključne obveze i implikacije za usklađenost.

Sažetak službenog teksta

Članak 76. Uredbe (EU) 2024/1689 dodjeljuje tijelima za nadzor tržišta posebne nadzorne ovlasti nad testiranjem visokorizičnih sustava UI u stvarnim uvjetima kako je predviđeno člankom 60. Članak utvrđuje da kada takvo testiranje odvija na teritoriju države članice, nadležno tijelo za nadzor tržišta za to područje ima jurisdikciju za nadzor provođenja testa i za provjeru da su svi uvjeti propisani člankom 60. ispunjeni tijekom cijelog razdoblja testiranja.

Tijela su ovlaštena zatražiti pristup cjelokupnoj dokumentaciji koja podupire testiranje u stvarnim uvjetima, uključujući plan testiranja, postupke informiranog pristanka primijenjene na sudionicima i sve zapise koje je generirao sustav UI tijekom rada. Kada tijelo identificira okolnosti koje upućuju na to da testiranje stvara rizik — posebno za zdravlje, sigurnost ili temeljna prava fizičkih osoba — može naložiti obustavu ili definitivni prestanak aktivnosti testiranja. Takve odluke moraju se promptno priopćiti Europskoj komisiji i tijelima za nadzor tržišta ostalih država članica putem postojeće Union infrastrukture za informiranje i komunikaciju o sigurnosti proizvoda.

Članak se također bavi koordinacijom između tijela kada testiranje obuhvaća više država članica, određujući tijelo države članice u kojoj je pružatelj osnovan kao vodeći nadzornik, uz zadržavanje prava svakog dotičnog tijela na poduzimanje zaštitnih mjera na svom teritoriju. To odražava koordinirani model provedbe koji se primjenjuje prema drugom zakonodavstvu o usklađivanju Unije i osigurava da prekogranični testovi u stvarnim uvjetima ne upadnu u nadzorni vakuum.

Što ovo znači u praksi

Za pružatelje i korisnike koji provode testiranje visokorizičnih sustava UI u stvarnim uvjetima, članak 76. znači da testiranje nije samouređena aktivnost: određeno tijelo za nadzor tržišta zadržava kontinuiranu nadzornu ovlast od trenutka kada testiranje počne do zaključka.

U praktičnom smislu, pružatelj UI koji provodi pilot, primjerice, sustava za podršku medicinskoj dijagnozi na pacijentima u dvjema državama članicama mora identificirati vodeće nadzorno tijelo — tipično tijelo u državi članici gdje je pružatelj osnovan — i mora osigurati da je sva dokumentacija za testiranje zahtijevana prema članku 60. dostupna za pregled u kratkom roku. Ako tijelo zatraži pristup zapisnicima sustava, registru informiranog pristanka ili zapisima upravljanja incidentima, ovi moraju biti dostavljeni unutar vremenskog okvira koji odredi tijelo, a koji može biti svega nekoliko dana u hitnim situacijama.

Korisnici (bolnice, agencije za zapošljavanje, kreditne institucije ili druge organizacije koje integriraju sustav pružatelja) dijele teret usklađenosti. Moraju surađivati s nadzornim pregledima i ne smiju ometati pristup tijela mjestima testiranja ili sučeljima sustava.

Kada testiranje generira ozbiljan incident — štetu, gotovo-nesreću ili neočekivani štetni ishod koji uključuje sudionika — obveze obavješćivanja iz članka 73. aktiviraju se paralelno, a tijelo za nadzor tržišta koje nadzire prema članku 76. postaje neposredni primatelj te obavijesti. Organizacije bi stoga trebale integrirati svoje postupke odgovora na incidente sa svojim okvirima upravljanja testiranjem prije početka testiranja, a ne nakon što se incident dogodi.

Multinacionalni programi testiranja trebaju odrediti jednog internog vlasnika za usklađenost odgovornog za koordinaciju s tijelima u državama članicama i trebaju unaprijed mapirati koje tijelo ima vodeću jurisdikciju, a koje drži istovremene teritorijalne ovlasti.

Ključne obveze

• Pružatelji i korisnici moraju održavati svu dokumentaciju o testiranju u stvarnim uvjetima — uključujući plan testiranja, zapise o pristanku sudionika, zapise o upravljanju rizicima i dnevnike rada sustava — u obliku koji je odmah dostupan nadležnom tijelu za nadzor tržišta za trajanje testa.
• Na zahtjev tijela za nadzor tržišta, pružatelji i korisnici moraju dostaviti sve informacije, podatke ili pristup potreban tijelu za ocjenu usklađenosti s uvjetima utvrđenim u članku 60., unutar vremenskog okvira koji odredi tijelo.
• Kada testiranje obuhvaća više država članica, pružatelj mora angažirati vodeće nadzorno tijelo (tijelo države članice osnivanja) i osigurati da su sva dotična teritorijalna tijela obaviještena i mogu poduzimati zaštitne mjere unutar svoje jurisdikcije.
• Kada tijelo za nadzor tržišta naredi obustavu ili prestanak testiranja u stvarnim uvjetima, pružatelj i korisnik moraju odmah postupiti i moraju prestati sa svim aktivnostima testiranja na teritoriju Unije dok tijelo ne ukine mjeru ili dok se pitanje ne razriješi primjenjivim postupkom preispitivanja.
• Svaki ozbiljan incident koji se dogodi tijekom testiranja u stvarnim uvjetima mora se prijaviti nadzornom tijelu za nadzor tržišta u skladu s vremenskim rokovima i postupcima utvrđenim prema članku 73., bez čekanja na zaključak internih istraga.
• Pružatelji i korisnici moraju surađivati u dobroj vjeri s nadzornim pregledima tijela za nadzor tržišta, uključujući pružanje pristupa na licu mjesta objektima, osoblju i sučeljima sustava UI kada se to zatraži.

Odnos prema drugim člancima

Članak 76. smješten je na raskrižju nekoliko međusobno isprepletenih odredbi Uredbe (EU) 2024/1689. Njegova primarna veza je s člankom 60., koji definira materijalne uvjete pod kojima je testiranje visokorizičnih sustava UI u stvarnim uvjetima ovlašteno; članak 76. je provedbeni pandan koji tim uvjetima daje obvezujuću snagu kroz nadzorni nadzor.

Oslanja se na opći okvir nadzora tržišta uspostavljen člancima 74. i 75., koji definiraju ovlasti i postupke dostupne tijelima za nadzor tržišta u svim kategorijama sustava UI i treba ga čitati uz te članke kako bi se razumio puni opseg istražnih i korektivnih ovlasti koje su dostupne.

Članak se odnosi na članak 73. o izvješćivanju o ozbiljnim incidentima, budući da incidenti koji nastaju tijekom nadziranog testiranja odmah aktiviraju lanac obavješćivanja iz tog članka. Članak 57. o regulatornim sandbox okruženjima za UI je srodna, ali posebna odredba: sandbox okruženja djeluju pod nadzorom nacionalnih nadležnih tijela s posebnim odstupanjima, dok članak 76. uređuje testiranje u stvarnim uvjetima prema standardnom režimu nadzora tržišta.

Članci 85. i 86. o kaznama i pristupu pravosuđu relevantni su nizvodno: propust suradnje s nadzorom prema članku 76. može predstavljati kršenje usklađenosti koje privlači administrativne kazne prema kaznenom okviru Acta.

Vremenski okvir usklađenosti

Uredba (EU) 2024/1689 stupila je na snagu 1. kolovoza 2024., označavajući početak faznog rasporeda primjene. Članak 76., kao dio Naslova IX. o post-tržišnom praćenju i nadzoru tržišta, spada u odredbe koje postaju u potpunosti primjenjive na visokorizične sustave UI u drugoj i trećoj fazi primjene.

Za visokorizične sustave UI navedene u Prilogu III. (samostalne visokorizične aplikacije), pune obveze nadzora tržišta — uključujući nadzor testiranja u stvarnim uvjetima prema članku 76. — primjenjuju se od 2. kolovoza 2026. Za visokorizične sustave UI koji su sigurnosne komponente proizvoda reguliranih postojećim zakonodavstvom o usklađivanju Unije navedenim u Prilogu I. (kao što su medicinski uređaji i strojevi), primjenjivi datum je 2. kolovoza 2027.

Pružatelji koji planiraju testiranje visokorizičnih sustava u stvarnim uvjetima trebaju tretirati kolovoz 2026. kao čvrsti rok za uspostavljanje usklađenih okvira upravljanja testiranjem, uključujući dokumentirane postupke za pristup tijela, eskalaciju incidenata i prekograničnu koordinaciju. Uzimajući u obzir da programi testiranja često traju šest do dvanaest mjeseci prije nego što sustav dođe do raspoređivanja, okviri upravljanja trebali bi realistično biti dizajnirani i testirani najkasnije do početka 2026. kako bi se izbjegli kašnjenja u ulasku na tržište.