Člen 31 — Zahteve za priglašene organe (Uredba EU o umetni inteligenci)

Člen 31 Uredbe (EU) 2024/1689 — Zahteve za priglašene organe. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 31 Uredbe (EU) 2024/1689 določa pogoje, ki jih mora organ za ugotavljanje skladnosti izpolniti, preden ga država članica lahko priglasi Evropski komisiji kot organ, pristojen za izvajanje ugotavljanja skladnosti s strani tretjih oseb za sisteme UI z visokim tveganjem.

Člen nalaga zahteve na več dimenzijah. Prvič, organ mora biti ustanovljen v skladu z nacionalnim pravom in imeti pravno osebnost. Drugič, mora biti neodvisen od sistemov UI, ki jih ocenjuje, od njihovih ponudnikov in od kakršnega koli komercialnega, finančnega ali drugega pritiska, ki bi lahko ogrozil njegovo presojo; niti organ niti njegovo osebje ne sme biti oblikovalec, razvijalec, proizvajalec, dobavitelj, namestitveni tehnik, kupec, lastnik, uporabnik ali vzdrževalec sistemov UI, ki jih ocenjuje. Tretjič, organ in njegovo osebje morata imeti potrebno tehnično usposobljenost — vključno z ustreznimi izkušnjami s tehnologijami UI in praksami glede podatkov — in jo morata ohranjati z nenehnim usposabljanjem. Četrtič, organ mora biti finančno stabilen in imeti ustrezno zavarovalnino za odgovornost. Petič, organ mora imeti dokumentirane postopke za obravnavanje nasprotij interesov, za zaupnost informacij pridobljenih med ocenjevanjem in za zaščito interesov ponudnikov in tretjih oseb. Nazadnje mora organ sodelovati pri koordinacijskih dejavnostih na ravni Unije in sodelovati z organi za nadzor trga in organi za priglasitev.

Kadar priglašeni organ sklepa podizvajalske pogodbe ali uporablja podružnico, mora zagotoviti, da te subjekte izpolnjujejo enake zahteve, in ohrani polno odgovornost za njihovo delo.

Kaj to pomeni v praksi

Člen 31 je namenjen predvsem organom za ugotavljanje skladnosti, ki si prizadevajo za status priglašenega organa, in nacionalnim organom za priglasitev, odgovornim za njihovo ocenjevanje in imenovanje. Ponudnikom UI ne nalaga neposrednih obveznosti, vendar njegove zahteve oblikujejo ekosistem, v katerem morajo ponudniki delovati.

Za organe za ugotavljanje skladnosti pomeni spoštovanje člena 31 izvedbo celovite notranje vaje pripravljenosti pred vložitvijo vloge za priglasitev. To vključuje izvedbo strukturnega pregleda za preverjanje neodvisnosti od ponudnikov in dobaviteljskih verig, zaposlovanje ali preusposabljanje osebja s praktičnim strokovnim znanjem na področju strojnega učenja, upravljanja podatkov in specifičnega področja uporabe ocenjevanih sistemov UI (na primer medicinski pripomočki, biometrični sistemi ali kritična infrastruktura). Organi morajo vzpostaviti dokumentirane sisteme upravljanja, ki zajemajo zaupnost, nasprotja interesov in zagotavljanje kakovosti, ter zagotoviti ustrezno zavarovanje poklicne odgovornosti.

Za ponudnike UI sistemov z visokim tveganjem, ki zahtevajo ugotavljanje skladnosti s strani tretje osebe v skladu s členom 43 — na primer sistemi, navedeni v Prilogi III, za katere nobena harmonizirana norma ne zajema vseh zahtev — pomeni izbira priglašenega organa preverjanje, ali je organ ustrezno naveden v podatkovni zbirki NANDO in ali njegovo področje priglasitve zajema zadevni sektor aplikacij UI. Ponudniki bi morali preveriti tudi ureditve glede podizvajalcev organa in potrditi, da ocenjevalci iz podružnic sami izpolnjujejo zahteve.

Nacionalni organi za priglasitev morajo oblikovati okvire ocenjevanja, ki strogo preizkušajo vlagatelje glede na vsako merilo iz člena 31, in vzpostaviti postopke spremljanja za preverjanje stalne skladnosti po priglasitvi, saj je stalno izpolnjevanje teh zahtev pogoj za ohranitev priglašenega statusa.

Ključne obveznosti

• Neodvisnost in nepristranskost: Priglašeni organ, njegovo višje vodstvo in osebje, odgovorno za izvajanje nalog ugotavljanja skladnosti, ne smejo biti oblikovalec, razvijalec, proizvajalec, dobavitelj ali uporabnik sistemov UI, ki jih ocenjujejo, in morajo biti brez kakršnega koli vpliva — komercialnega, finančnega ali drugega — ki bi lahko vplival na njihovo objektivnost.
• Tehnična usposobljenost: Organ mora izkazati zadostno znanje in izkušnje na področju tehnologij UI, podatkov in upravljanja podatkov, kibernetske varnosti in specifičnega področja uporabe sistemov, za katere je priglašen, ter zagotoviti, da osebje opravlja stalno usposabljanje za sledenje tehnološkemu razvoju.
• Pravna osebnost in finančna stabilnost: Organ mora biti pravno konstituiran subjekt v skladu z nacionalnim pravom in mora biti sposoben dokazati finančno zdravje ter imeti ustrezno zavarovalnino za odgovornost za kritje svojih dejavnosti ocenjevanja.
• Dokumentirani sistemi upravljanja: Organ mora uporabljati dokumentirane postopke za obravnavanje nasprotij interesov, varovanje zaupnosti poslovno občutljivih informacij in upravljanje pritožb in pritožbenih postopkov ponudnikov.
• Pravila o podizvajalcih in podružnicah: Kadar so naloge oddane v podizvajalstvo ali prenesene na podružnico, mora priglašeni organ preveriti, da podizvajalec ali podružnica izpolnjuje vse zahteve iz člena 31, mora obvestiti ponudnika pred oddajo v podizvajalstvo in ohrani polno pravno odgovornost za rezultate.
• Sodelovanje in udeležba: Priglašeni organ mora sodelovati z nacionalnimi organi za nadzor trga in organi za priglasitev ter mora sodelovati v koordinacijskih skupinah na ravni Unije, vzpostavljenih za priglašene organe v okviru Uredbe o UI.

Razmerje z drugimi členi

Člen 31 je umeščen v naslov III, poglavje 4, ki ureja celoten okvir organov za priglasitev in priglašenih organov. Brati ga je treba skupaj s členom 28, ki opredeljuje obveznosti organov za priglasitev, s členom 29, ki določa zahteve za vloge za priglasitev in postopek priglasitve pri Komisiji, ter s členom 30, ki obravnava vzpostavitev in naloge organov za priglasitev na nacionalni ravni.

V nadaljevanju se člen 31 neposredno navezuje na člen 33, ki določa operativne obveznosti priglašenih organov po imenovanju — vključno z njihovo dolžnostjo izvajati ocene v skladu s členoma 43 in 44 — ter na člen 44, ki ureja potrdila, ki jih izdajajo priglašeni organi, in pogoje za njihovo začasno ustavitev ali umik. Člen 43 natančno določa, kdaj je ugotavljanje skladnosti s strani tretje osebe prek priglašenega organa obvezno v primerjavi s tem, kdaj se ponudnik lahko zanese na notranjo kontrolo. Člen 49 o izjavi EU o skladnosti in člen 50 o oznaki CE sta rezultata v nadaljevanju postopka, ki sta odvisna od veljavnega potrdila priglašenega organa, kjer je to zahtevano.

Časovnica za skladnost

Uredba (EU) 2024/1689 je začela veljati 1. avgusta 2024. Uredba EU o UI se uporablja v fazah:

• 2. februarja 2025: Začele so se uporabljati prepovedi praks UI z nesprejemljivim tveganjem (naslov II).
• 2. avgusta 2025: Postala so veljavna pravila za modele UI za splošne namene (naslov VIII) in obveznosti upravljanja za države članice.
• 2. avgusta 2026: Glavne obveznosti za sisteme UI z visokim tveganjem, navedene v Prilogi III — vključno z zahtevami za ugotavljanje skladnosti v skladu s členom 43 in zato operativnimi zahtevami za priglašene organe v skladu s členom 31 — postanejo v celoti veljavne.
• 2. avgusta 2027: Podaljšan rok za nekatere sisteme UI z visokim tveganjem, ki so tudi varnostne komponente izdelkov, ki so že predmet harmonizacijske zakonodaje Unije, navedene v Prilogi I (kot so medicinski pripomočki in stroji).

V praktičnem smislu morajo organi za ugotavljanje skladnosti, ki želijo biti operativni 2. avgusta 2026, začeti postopek vložitve vloge dovolj pred tem datumom, glede na čas, potreben za nacionalno ocenjevanje in uradno priglasitev Komisiji. Od držav članic se je torej pričakovalo, da bodo vzpostavile svoje okvire organov za priglasitev in postopke ocenjevanja najkasneje do sredine leta 2025.