Člen 38 — Usklajevanje priglašenih organov (Akt EU o umetni inteligenci)

Člen 38 Uredbe (EU) 2024/1689 — Usklajevanje priglašenih organov. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 38 Uredbe (EU) 2024/1689 vzpostavlja obvezni okvir usklajevanja za priglašene organe, ki izvajajo ugotavljanje skladnosti visoko tveganih sistemov umetne inteligence na podlagi naslova III, poglavja 5 akta. Člen zahteva, da priglašeni organi sodelujejo v skupini za usklajevanje in aktivno prispevajo k njenemu delu, pri čemer ta skupina deluje pod nadzorom in s posredovanjem Evropske komisije.

Mehanizem usklajevanja ima dvojno funkcijo. Prvič, zagotavlja postopkovno doslednost: priglašeni organi morajo uskladiti svoje metodologije ocenjevanja, razlagalne pristope in postopkovne standarde, tako da enakovredni visoko tvegani sistemi umetne inteligence prejmejo enakovredno preiskavo ne glede na državo članico, v kateri ocenjevanje poteka. Drugič, omogoča vsebinsko učenje: organi si morajo deliti relevantne izkušnje, nove ugotovitve in najboljše prakse, ki izhajajo iz dejanskega ugotavljanja skladnosti.

Komisija je zadolžena za spodbujanje skupin za usklajevanje in jo lahko poveže z obstoječimi sektorskimi strukturami usklajevanja, vzpostavljenimi na podlagi ustrezne zakonodaje Unije o harmonizaciji — kot so tiste, ki delujejo na področju medicinskih pripomočkov, strojev ali civilnega letalstva — kjer so sistemi umetne inteligence predmet sektorsko specifičnih zahtev za ocenjevanje. Kadar so evropski organi za standardizacijo, kot sta CEN-CENELEC, razvili harmonizirane standarde, relevantne za umetno inteligenco, mora usklajevanje v skladu s členom 38 upoštevati te standarde.

Člen nadalje določa, da lahko Komisija sprejme izvedbene akte za vzpostavitev operativnih ureditev za skupino za usklajevanje, vključno s pravili o izmenjavi informacij, pogostostjo dejavnosti usklajevanja in mehanizmi za reševanje razlik med organi.

Kaj to pomeni v praksi

Za organizacije, ki razvijajo ali uvajajo visoko tvegane sisteme umetne inteligence, ima člen 38 pomembne posredne posledice za skladnost, čeprav neposredne obveznosti padejo na priglašene organe in ne na ponudnike ali uporabnike.

Najpomembnejši praktični učinek je doslednost rezultatov ugotavljanja skladnosti. Pred Aktom EU o umetni inteligenci so bile različne razlage tehničnih zahtev med organi za ugotavljanje skladnosti v državah članicah priznan problem v ekosistemu označevanja CE. Člen 38 je zasnovan tako, da to ne bi ponovilo za umetno inteligenco. Ponudniki, ki izberejo priglašeni organ za ugotavljanje skladnosti, lahko pričakujejo, da bodo vsebinski standardi, ki se uporabljajo, primerljivi ne glede na to, ali se odločijo za avstrijski, nizozemski ali nemški organ.

Za ponudnike to pomeni, da bi morali biti dokumentacija in tehnični dosjeji, pripravljeni za ugotavljanje skladnosti, zasnovani tako, da izpolnjujejo harmoniziran osnoven standard, in ne prilagojeni posebnostim posameznega organa. Pomeni tudi, da informacije, ki jih priglašeni organ deli v okviru skupin za usklajevanje — kot so vzorci neskladnosti ali ponavljajoče se pomanjkljivosti dokumentacije — lahko posredno vplivajo na preiskavo, ki se bo uporabila pri prihodnjih ocenjevanjih v celotnem ekosistemu.

Uporabniki visoko tveganih sistemov umetne inteligence v reguliranih sektorjih bi morali upoštevati, da sektorske koordinacijske povezave po členu 38 pomenijo, da organi, ki ocenjujejo komponente umetne inteligence, vgrajene v medicinske pripomočke, industrijske stroje ali transportne sisteme, morda hkrati uporabljajo koordinacijske rezultate tako iz skupin za Akt o umetni inteligenci kot iz ustrezne sektorske skupine. Ekipe za skladnost bi morale spremljati smernice in tehnične opombe, ki jih objavljata Komisija ali Urad za umetno inteligenco v okviru dejavnosti skupin za usklajevanje.

Sami priglašeni organi morajo načrtovati aktivno sodelovanje v usklajevanju, vključno s časom osebja za sestanke, delovne skupine in obveznosti izmenjave informacij. Organi, ki ne bodo smiselno sodelovali pri mehanizmih usklajevanja, tvegajo negativne ugotovitve med postopki spremljanja in strokovnega pregleda, vzpostavljenimi drugje v poglavju 4.

Ključne obveznosti

• Priglašeni organi morajo sodelovati v skupini za usklajevanje, ki jo je vzpostavila ali posreduje Evropska komisija, in aktivno prispevati k njenemu delu.
• Organi morajo z drugimi sodelujočimi priglašenimi organi prek strukture usklajevanja deliti relevantne izkušnje, ugotovitve ocenjevanja in metodološke pristope.
• Organi morajo uskladiti svoje prakse ugotavljanja skladnosti s skupnimi pristopi in razlagami, razvitimi z usklajevanjem, ter preprečevati različne rezultate za primerljive sisteme umetne inteligence.
• Komisija mora spodbujati skupino za usklajevanje in jo po potrebi povezati z obstoječimi sektorskimi organi za usklajevanje, ki delujejo na podlagi druge zakonodaje Unije o harmonizaciji, kadar sistemi umetne inteligence spadajo v področje uporabe obeh režimov.
• Komisija lahko sprejme izvedbene akte, ki določajo organizacijske ureditve za skupino za usklajevanje, vključno s protokoli za izmenjavo informacij in postopki za reševanje razlagalnih razlik med organi.
• Priglašeni organi morajo pri izvajanju usklajenih ocenjevanj upoštevati harmonizirane standarde in ustrezne rezultate evropskih dejavnosti standardizacije.

Razmerje do drugih členov

Člen 38 je v naslovu III, poglavju 4, ki skupaj ureja določanje, spremljanje in delovanje priglasitvenimi organov in priglašenih organov. Brati ga je treba skupaj s členom 33, ki določa vsebinske zahteve, ki jih mora organ izpolnjevati, da je določen kot priglašeni organ, in s členom 34, ki zajema sam postopek priglasitve. Člen 35 obravnava operativne obveznosti priglašenih organov med ocenjevanji, člen 36 pa zajema podružnice in podizvajanje. Člen 37 vzpostavlja spremljanje in pregled priglašenih organov s strani priglasitvenimi organov.

Zunaj poglavja 4 se člen 38 neposredno navezuje na postopke ugotavljanja skladnosti v poglavju 5, zlasti na člena 43 in 44, ki določata, kdaj je obvezno vključevanje tretjih priglašenih organov. Usklajevalno delo iz člena 38 se prav tako prepleta z vlogo Urada za umetno inteligenco, vzpostavljenega po členu 64, in Evropskega odbora za umetno inteligenco po členu 65, ki sta oba odgovorna za zagotavljanje dosledne uporabe uredbe v državah članicah. Mandati za standardizacijo, izdani po členu 40, so primarni vhodni podatki za tehnično delo skupin za usklajevanje.

Časovnica skladnosti

Akt EU o umetni inteligenci je začel veljati 1. avgusta 2024 po objavi v Uradnem listu Evropske unije. Uporaba uredbe je postopna:

• Februar 2025 — Začele so se uporabljati prepovedi glede praks umetne inteligence z nesprejemljivim tveganjem (člen 5).
• Avgust 2025 — Začele so se uporabljati obveznosti za modele umetne inteligence splošnega namena (naslov VIII). Priglašeni organi lahko od tega datuma začnejo zaprositi za določitev, s čimer se sproži začetna aktivacija obveznosti usklajevanja po členu 38.
• December 2026 — Začnejo se uporabljati obveznosti ugotavljanja skladnosti za visoko tvegane sisteme umetne inteligence, navedene v Prilogi I (proizvodi, ki jih ureja obstoječa zakonodaja Unije o harmonizaciji).
• Avgust 2027 — Polna uporaba obveznosti visoko tveganega sistema umetne inteligence v skladu s Prilogo III, s čimer postane okvir usklajevanja priglašenih organov iz člena 38 v celoti operativen v vseh zajetih primerih uporabe.

Organizacije, ki so predmet ugotavljanja skladnosti s strani tretjih strank, bi morale stopiti v stik s priglašenimi organi precej pred rokom decembra 2026 in avgusta 2027, saj se pričakuje, da se bodo rezultati skupin za usklajevanje in usklajeni protokoli ocenjevanja utrdili v letih 2025 in 2026. Od sredine leta 2025 naprej je priporočljivo spremljati izvedbene akte Komisije v zvezi z ureditvami usklajevanja iz člena 38.