Člen 45 — Obveznosti obveščanja priglašenih organov (zakon EU o umetni inteligenci)

Člen 45 Uredbe (EU) 2024/1689 — Obveznosti obveščanja priglašenih organov. Uradni besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 45 Uredbe (EU) 2024/1689 določa posebne obveznosti obveščanja, ki jih morajo priglašeni organi izpolnjevati skozi celoten življenjski cikel svojih dejavnosti ugotavljanja skladnosti v zvezi z visoko rizičnimi sistemi umetne inteligence, navedenimi v Prilogi III in, kjer je to primerno, v Prilogi II.

Na podlagi člena 45 so priglašeni organi dolžni obveščati organ za priglasitev — nacionalni organ, pristojen za njihovo imenovanje in nadzor — o vseh opravljenih ugotovitvah skladnosti, vključno s tistimi, ki so bile zavrnjene ali umaknjene pred zaključkom. Ta obveznost preglednosti se razteza na okoliščine, ki bi lahko vplivale na obseg, pogoje ali stalno veljavnost priglasitve, kot so spremembe v strukturi, lastništvu, usposobljenosti ali virih organa.

Priglašeni organi morajo poleg tega svojemu organu za priglasitev sporočiti vse zahteve za informacije, prejete od organov za nadzor trga, kar omogoča usklajeni nadzor čez nacionalne meje. Dolžni so tudi poročati o pritožbah, pritožbenih postopkih in drugih ustreznih informacijah v zvezi z visoko rizičnimi sistemi umetne inteligence, ki so jih ocenili, na zahtevo ali na lastno pobudo, kadar je zadeva pomembna za regulativne ukrepe.

Člen 45 nadalje določa, da si priglašeni organi med seboj in s Komisijo izmenjujejo informacije o zadevah, povezanih z negativnimi rezultati ugotavljanj skladnosti, s čimer se vzpostavlja kolektivni mehanizem delitve znanja. To ponudnikom preprečuje iskanje bolj popustljivih ocenjevalcev, potem ko so od enega priglašenega organa prejeli zavrnjeno oceno — praksa, ki se včasih imenuje „certificate shopping" (nakupovanje certifikatov).

Člen predstavlja temeljni kamen infrastrukture odgovornosti za sistem priglašenih organov in zagotavlja, da nacionalni organi in Komisija ohranjajo pristni nadzor nad načinom izvajanja ugotavljanj skladnosti po vsej Uniji.

Kaj to pomeni v praksi

Za priglašene organe člen 45 uvaja kulturo stalnega, proaktivnega razkrivanja, ki presega zgolj izdajanje ali zavračanje certifikatov. V operativnem smislu mora priglašeni organ vzpostaviti notranje postopke za beleženje in poročanje o vseh pomembnih dogodkih svojemu nacionalnemu organu za priglasitev, tudi kadar ti dogodki ne privedejo do formalnega certifikata.

Razmislimo o scenariju, v katerem ponudnik visoko rizičnega sistema umetne inteligence, ki se uporablja pri selekciji zaposlenih, predloži dokumentacijo za ugotavljanje skladnosti, toda priglašeni organ ugotovi kritične vrzeli v tehnični dokumentaciji in sistemu upravljanja tveganj. Tudi če ponudnik umakne vlogo pred izdajo formalnega zavrnitve, člen 45 od priglašenega organa zahteva, da poroča o tem umiku. Organ za priglasitev in — prek mehanizmov izmenjave informacij — drugi priglašeni organi so s tem opozorjeni, da se neusklajeni sistem morda kje drugje znova predloži v oceno.

Podobno, če organ za nadzor trga — npr. nacionalni regulator za varstvo potrošnikov — stopi v stik s priglašenim organom in zahteva informacije o predhodno ocenem sistemu, ki je povzročil škodo, mora priglašeni organ obvestiti svoj organ za priglasitev o tej zahtevi. S tem se ustvari revizijska sled, ki omogoča usklajeni regulativni odziv.

Priglašeni organi morajo neprekinjeno preverjati tudi svoje notranje ureditve glede virov in usposobljenosti. Če ugotovijo, da njihov kader ali tehnična zmogljivost ne zajema več določenih kategorij sistemov umetne inteligence, morajo to spremembo takoj sporočiti, da se obseg njihovega imenovanja lahko prilagodi — s čimer se varuje integriteta trga s preprečevanjem ocenjevanj na področjih, kjer organu manjka resnična strokovnost.

Za ponudnike ta okvir pomeni, da zavrnjeno ali umaknjeno ocenjevanje ni zaupno dejstvo. Zato je priporočljiva skrbna preučitev pred sklenitvijo pogodbe s priglašenim organom.

Ključne obveznosti

• Poročanje o zavrnjenih in umaknjenih ocenjevanjih: Priglašeni organi morajo organ za priglasitev obvestiti o vsakem ugotavljanju skladnosti, ki ga je ponudnik zavrnil ali umaknil pred zaključkom, vključno z razlogi, kjer jih je mogoče ugotoviti.
• Razkritje okoliščin, ki vplivajo na obseg: Vsaka sprememba pravnega statusa, lastništva, višjega osebja, organizacijske strukture ali tehnične usposobljenosti organa, ki bi lahko vplivala na njegovo priglasitev, mora biti sporočena organu za priglasitev brez nepotrebnega odlašanja.
• Delitev informacij z drugimi priglašenimi organi: Priglašeni organi so dolžni izmenjevati informacije o negativnih rezultatih ocenjevanja in z njimi povezanih zadevah s sorodnimi priglašenimi organi in s Komisijo, s čimer se preprečuje nakupovanje certifikatov po Uniji.
• Poročanje o regulativnih stikih: Prejem zahtev za informacije organov za nadzor trga, nacionalnih pristojnih organov ali drugih regulativnih organov mora biti razkrit organu za priglasitev, kar omogoča usklajeni nadzor.
• Sporočanje pritožb in pritožbenih postopkov: Pomembne pritožbe, pritožbeni postopki zoper odločitve o ocenjevanju ter informacije iz monitoringa po dajanju na trg v zvezi z ocenjenimi sistemi umetne inteligence morajo biti sporočeni na zahtevo ali proaktivno, kadar je to upravičeno.
• Vzdrževanje pripravljenosti na revizije: Priglašeni organi morajo organu za priglasitev zagotoviti vso ustrezno dokumentacijo, evidence in dokaze o svojih dejavnostih ocenjevanja za podporo stalnega spremljanja njihovega imenovanja.

Razmerje do drugih členov

Člen 45 deluje v gosti mreži določb, ki urejajo okvir priglašenih organov v skladu z Naslovom III, Poglavjem 5. Je nerazdružljivo povezan s členom 33, ki določa splošne obveznosti in zahteve, ki jih morajo priglašeni organi izpolnjevati za pridobitev in ohranitev imenovanja, ter s členom 34, ki določa pravila o podružnicah in podizvajalcih, ki vplivajo na organizacijsko preglednost.

Postopek priglasitve in imenovanja, urejen z členoma 35 in 36, zagotavlja institucionalni kontekst za člen 45: organ za priglasitev, ki prejme informacije na podlagi člena 45, je isti organ, ki lahko na podlagi člena 35 začasno prekine ali umakne priglasitev, če razkriti podatki razkrijejo neskladnost.

Člen 44 (certifikati o skladnosti) in člen 46 (odstopanje od postopkov ugotavljanja skladnosti) je treba brati skupaj s členom 45, saj določata rezultate postopka ugotavljanja skladnosti, katerih integriteto naj bi obveznosti obveščanja iz člena 45 varovale.

Na ravni nadzora trga se členi 74 do 76 implicitno zanašajo na tokove informacij, ki jih ustvarja člen 45, da bi učinkovito delovali, kakor tudi koordinacijski mehanizmi, ki vključujejo Evropski odbor za umetno inteligenco (EAIB), ustanovljen na podlagi člena 65.

Časovni načrt skladnosti

Zakon EU o umetni inteligenci je začel veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije (UL L 2024/1689, 12. julija 2024). Člen 45 spada med določbe, ki se uporabljajo za visoko rizične sisteme umetne inteligence v skladu z Naslovom III.

Postopni urnik uporabe je naslednji:

• 1. avgust 2024 — Začetek veljavnosti; za države članice in Komisijo se začnejo pripravljalne obveznosti.
• 2. februar 2025 — Prepovedane prakse umetne inteligence (Naslov II, člen 5) so postale veljavne.
• 2. avgust 2025 — Obveznosti v zvezi z modeli GPAI (Naslov VIII) in določbe o upravljanju so postale veljavne; pričakuje se, da bodo postopki imenovanja priglašenih organov do tega datuma operativno napredovani.
• 2. avgust 2026 — Člen 45 skupaj s celotnim naborom obveznosti iz Naslova III, Poglavja 5 v zvezi s priglašenimi organi in ugotovitvami skladnosti za visoko rizične sisteme umetne inteligence, navedene v Prilogi III, postane v celoti veljaven. Priglašeni organi morajo biti od tega datuma v celoti skladni s svojimi obveznostmi obveščanja.
• 2. avgust 2027 — Podaljšan rok za nekatere visoko rizične sisteme umetne inteligence, ki jih zajema obstoječa harmonizacijska zakonodaja Unije, navedena v Prilogi II, oddelek 1, s čimer se proizvajalcem v teh reguliranih sektorjih zagotovi dodatni čas za prilagoditev postopkov ugotavljanja skladnosti.

Organizacije, ki si prizadevajo za imenovanje za priglašene organe, bi morale imeti vzpostavljene postopke upravljanja informacij in razkrivanja informacij z dovolj vnaprejšnjim predhodom pred rokom avgusta 2026, da bi zagotovile, da bodo od prvega dne polne veljavnosti izkazale skladnost.