Člen 112 — Ocenjevanje (Akt EU o umetni inteligenci)

Člen 112 Uredbe (EU) 2024/1689 — Ocenjevanje. Uradni besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 112, ki je umeščen v Naslov XIII (Končne določbe) Uredbe (EU) 2024/1689, vzpostavlja obvezni mehanizem ocenjevanja, prek katerega mora Evropska komisija periodično ocenjevati delovanje in učinke Akta EU o umetni inteligenci. Komisija je dolžna predložiti poročila o ocenjevanju Evropskemu parlamentu in Svetu Evropske unije v določenih intervalih, pri čemer mora biti prvo poročilo predloženo najpozneje tri leta po datumu začetka uporabe uredbe.

Obseg teh ocenjevanj je celovit. Komisija mora oceniti, ali se cilji uredbe učinkovito dosegajo, ali so potrebne kakršne koli spremembe za prilagoditev tehnološkim spremembam ali tržnim razmeram, ter ali pravila o prepovedanih praksah UI in sistemih UI z visokim tveganjem ostajajo sorazmerna in primerna. Ocenjevanje mora prav tako preučiti vpliv uredbe na temeljne pravice, notranji trg in inovacije ter ustreznost arhitekture upravljanja in izvrševanja, vključno z delovanjem nacionalnih pristojnih organov in Evropskega urada za umetno inteligenco.

Kadar ugotovitve ocenjevanja nakazujejo, da uredba ne obravnava več ustrezno nastajajočih tveganj, lahko Komisija poročilu priloži zakonodajni predlog za spremembo uredbe. Od držav članic se pričakuje, da bodo Komisiji posredovale podatke in informacije, potrebne za izvedbo teh ocenjevanj, s čimer zagotavljajo, da ocenjevanja temeljijo na empiričnih dokazih, pridobljenih iz resnične uporabe v celotni Uniji.

Kaj to pomeni v praksi

Člen 112 ne nalaga neposrednih obveznosti glede skladnosti razvijalcem UI, ponudnikom ali uporabnikom. Njegove obveznosti bremenijo Evropsko komisijo kot institucionalnega akterja. Kljub temu ima mehanizem ocenjevanja pomembne posredne posledice za vse zainteresirane strani, ki delujejo v okviru Akta EU o umetni inteligenci.

Za ponudnike in uporabnike UI cikel ocenjevanja pomeni, da je regulatorno okolje namerno zasnovano tako, da se razvija. Obveznosti, ki se danes uporabljajo — vključno z ocenami skladnosti, zahtevami glede preglednosti in registracijskimi dolžnostmi — se lahko razširijo, spremenijo ali izpopolnijo kot odziv na ugotovitve Komisije. Organizacije, ki gradijo dolgoročne programe skladnosti, bi morale Člen 112 obravnavati kot opomnik, da je Akt EU o umetni inteligenci živ instrument in ne statičen pravilnik.

Za države članice in nacionalne nadzorne organe Člen 112 pomeni obveznost zbiranja in posredovanja podatkov o izvrševanju, evidenc incidentov in statistik tržnega nadzora, ki prispevajo k dokazni bazi Komisije. Organi, ki ne uspejo vzpostaviti ustrezne infrastrukture za zbiranje podatkov, tvegajo slabšanje kakovosti ocenjevanja in posredno natančnost morebitne kasnejše zakonodajne revizije.

Za industrijska združenja in civilno družbo proces ocenjevanja ustvarja formalni kanal za vplivanje na prihodnji regulatorni razvoj. Od Komisije se pričakuje, da se bo posvetovala z zainteresiranimi stranmi pri pripravi poročil o ocenjevanju, kar pomeni, da dokumentirani dokazi o bremenih skladnosti, pomanjkljivostih izvrševanja ali nenamernih posledicah lahko neposredno oblikujejo naslednjo različico pravil.

V praktičnem smislu bi morali veliki ponudniki UI pričakovati periodične zahteve po informacijah s strani nacionalnih organov ali same Komisije v okviru procesa zbiranja podatkov za ocenjevanje in bi morali skladno s tem voditi dostopne evidence dejavnosti zagotavljanja skladnosti.

Ključne obveznosti

• Evropska komisija mora izvajati periodična ocenjevanja Akta EU o umetni inteligenci in predložiti poročila Evropskemu parlamentu in Svetu v rednih intervalih, pri čemer mora biti prvo poročilo predloženo najpozneje tri leta po datumu začetka uporabe.
• Vsako ocenjevanje mora ugotoviti učinkovitost uredbe pri doseganju njenih navedenih ciljev, vključno z varstvom temeljnih pravic, varnostjo in pravilnim delovanjem notranjega trga.
• Ocenjevanje mora preučiti, ali seznam prepovedanih praks UI v Prilogi I in klasifikacija sistemov UI z visokim tveganjem v Prilogah II in III ostajata primerni in sorazmerni glede na tehnološke in tržne razmere.
• Ocenjevanje mora upoštevati delovanje arhitekture upravljanja, vključno z Evropskim uradom za umetno inteligenco, Odborom za UI in nacionalnimi pristojnimi organi, ter ustreznost mehanizmov tržnega nadzora.
• Kadar to upravičujejo ugotovitve ocenjevanja, lahko Komisija predloži zakonodajni predlog za spremembo uredbe skupaj s poročilom o ocenjevanju.
• Države članice morajo Komisiji posredovati podatke in informacije, potrebne za izvedbo ocenjevanj, s čimer podpirajo postopek pregleda na podlagi dokazov.

Razmerje do drugih členov

Člen 112 je neposredno povezan z okvirom upravljanja, vzpostavljenim v Naslovu VI in Naslovu VII uredbe. Institucije, katerih učinkovitost se ocenjuje — Evropski urad za umetno inteligenco (Člen 64), Odbor za UI (Člen 65) in Svetovalni forum (Člen 66) — so operativni akterji, katerih delovanje mora Komisija oceniti. Ocenjevanje se prav tako prepleta s Členom 111, ki obravnava poročanje in pregled finančne in izvršilne arhitekture uredbe.

Člen 112 je treba brati skupaj s Členoma 113 in 114, ki urejata formalne postopke sprememb in začetka veljavnosti, saj lahko ugotovitve ocenjevanja sprožijo zakonodajne postopke, ki jih ti členi opisujejo. Člen je prav tako povezan s Členoma 85 in 93, ki določata obveznosti držav članic glede spremljanja in poročanja o uporabi uredbe — podatki, ki neposredno prispevajo k dokazni bazi Komisije. Uvodna izjava 168 zagotavlja dodaten razlagalni kontekst o utemeljitvi periodičnega pregleda v hitro razvijajočem se tehnološkem področju.

Časovnica skladnosti

Člen 112 ureja urniku postopne uporabe Akta EU o umetni inteligenci, ki se je začel z začetkom veljavnosti uredbe 1. avgusta 2024.

• 1. avgust 2024 — Uredba je začela veljati; ura ocenjevanja začne teči.
• 2. februar 2025 — Prepovedi glede praks UI z nesprejemljivim tveganjem so se začele uporabljati (Člen 5); te klasifikacije so predmet pregleda v okviru ocenjevanj po Členu 112.
• 2. avgust 2025 — Obveznosti za modele GPAI (Naslov VIII) so se začele uporabljati; njihova ustreznost spada v obseg ocenjevanja.
• 2. avgust 2026 — Določbe o upravljanju in izvrševanju se v celoti uporabljajo; delovanje nacionalnih organov postane uradno ocenjeno.
• 2. december 2026 / 2. avgust 2027 — Obveznosti za sisteme UI z visokim tveganjem na podlagi Prilog II in III se v celoti začnejo uporabljati; arhitektura ocene skladnosti postane primarni predmet ocenjevanja.
• Do približno avgusta 2029 — Komisija mora predložiti prvo poročilo o ocenjevanju Evropskemu parlamentu in Svetu, ki pokriva delovanje uredbe od začetka njene uporabe.

Organizacije naj pričakujejo, da bo Komisija začela z neformalnim zbiranjem podatkov veliko pred formalnim rokom za poročilo, in naj bodo pripravljene na sodelovanje z nacionalnimi nadzornimi organi, ki bodo od leta 2027 dalje zagotavljali dokaze za proces ocenjevanja.