Člen 7 — Spremembe Priloge III (Uredba EU o umetni inteligenci)

Člen 7 Uredbe (EU) 2024/1689 — Spremembe Priloge III. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 7 Uredbe (EU) 2024/1689 Evropski komisiji podeljuje pooblastilo za spremembo Priloge III — seznama kategorij sistemov umetne inteligence z visokim tveganjem — z delegiranimi akti, sprejetimi v skladu s členom 97. Ta mehanizem omogoča, da se regulativni perimeter Naslova III razširi ali zoži kot odgovor na empirične dokaze, brez potrebe po celovitem soodločevalnem zakonodajnem postopku.

Pri ocenjevanju, ali dodati novo kategorijo sistemov umetne inteligence v Prilogo III, je Komisija dolžna uporabiti strukturiran sklop meril. Ta vključujejo: resnost in nepopravljivo naravo škode, ki jo sistem lahko povzroči zdravju, varnosti ali temeljnim pravicam; število potencialno prizadetih oseb in njihovo stopnjo ranljivosti; obseg, v katerem je bil sistem že uveden, in v resničnem svetu opažene škode; stopnjo človeškega nadzora, ohranjenega nad avtomatiziranimi rezultati; in ali veljavno pravo Unije ali držav članic že zagotavlja ustrezno raven zaščite pred ugotovljenimi tveganji.

Nasprotno pa lahko Komisija kategorijo odstrani iz Priloge III, kadar evidenčna osnova dokazuje, da preostalo tveganje ne dosega več praga, ki upravičuje razvrstitev kot visoko tveganje, ali kadar so bile z drugimi zavezujočimi instrumenti Unije vzpostavljene enakovredne zaščitne ukrepe.

Vsak delegirani akt, sprejet v skladu s členom 7, je predmet postopka parlamentarnega nadzora, določenega v členu 97, ki Evropskemu parlamentu in Svetu daje pravico do ugovora pred začetkom veljavnosti akta. S tem se zagotavlja demokratični nadzor nad razvojem ureditve, hkrati pa se ohranja agilnost, ki jo Komisija potrebuje za sledenje hitro razvijajočim se zmogljivostim umetne inteligence.

Kaj to pomeni v praksi

Člen 7 deluje kot prilagoditveni mehanizem Uredbe EU o umetni inteligenci za razvrščanje visokega tveganja. V praksi to pomeni, da meja med sistemi umetne inteligence, ki so predmet celovitega režima skladnosti z visokim tveganjem, in tistimi, ki temu niso, ni trajno določena na datum začetka veljavnosti. Ponudniki in upravljavci morajo zato neprekinjeno spremljati delegirane akte Komisije, ne le ob začetnem razvoju izdelka.

Za organizacije, ki gradijo ali uvajajo sisteme umetne inteligence v sektorjih, ki mejijo na Prilogo III — na primer orodja umetne inteligence, ki se uporabljajo pri upravljanju delovne sile, kreditnem ocenjevanju ali zagotavljanju javnih storitev — člen 7 ustvarja tveganje na obzorju skladnosti: sistem, ki danes ni v obsegu, bi lahko po spremembi Komisije v obseg spadal. Previdne organizacije bi morale izvesti predhodno oceno visokega tveganja celo za mejne sisteme in zasnovati svojo arhitekturo upravljanja tako, da jo je mogoče nadgraditi.

Za organizacije, ki že delujejo v kategorijah Priloge III, člen 7 krepi potrebo po stalnem spremljanju skladnosti. Sprememba, ki zoži definicijo navedene kategorije, bi lahko ublažila nekatere obveznosti, vendar organizacije ne smejo domnevati olajšave brez formalne pravne analize obsega delegiranega akta.

Konkretno, ponudnik orodja s pomočjo umetne inteligence, ki razvršča kandidate za zaposlitev v kontekstu zaposlovanja v javnem sektorju, je trenutno v obsegu točke 4 Priloge III. Če Komisija na podlagi podatkov o nadzoru po trženju, zbranih v skladu s členom 72, ugotovi, da sistemi umetne inteligence, ki se uporabljajo pri zaposlovanju v zasebnem sektorju v malih podjetjih, predstavljajo enakovredna tveganja, bi lahko to točko razširila prek člena 7. Dobavna veriga tega ponudnika, zahteve glede tehnične dokumentacije in obveznosti ugotavljanja skladnosti bi se nato nanašale na širši krog strank.

Ključne obveznosti

• Spremljanje delegiranih aktov Komisije: Ponudniki in upravljavci morajo slediti morebitnim delegiranim aktom, sprejetim v skladu s členom 7, ki spreminjajo Prilogo III, saj lahko spremembe spremenijo njihov status skladnosti brez prehodnih obdobij, ki presegajo tista, določena v samem aktu.
• Vzdrževanje prilagodljive dokumentacije o tveganjih: Tehnična dokumentacija in evidence ugotavljanja skladnosti bi morali biti strukturirani tako, da jih je mogoče posodobiti, da odražajo morebitno reklasifikacijo sistema umetne inteligence iz kategorije neviso­kega tveganja v kategorijo visokega tveganja ali obratno.
• Izvajanje ocen obzorja za mejne sisteme: Organizacije, ki upravljajo sisteme umetne inteligence v sektorjih, ki mejijo na Prilogo III, bi morale periodično ocenjevati, ali nastajajoče smernice Komisije ali ugotovitve nadzora trga kažejo na prihajajoče spremembe, ki bi lahko vplivale na njihove izdelke.
• Sodelovanje v procesih javnega posvetovanja: Postopek delegiranega akta vključuje posvetovanja z ustreznimi zainteresiranimi stranmi; ponudniki in industrijska združenja bi morali sodelovati, da bi zagotovili upoštevanje sektorsko specifičnih dokazov, preden Komisija dokončno potrdi spremembe.
• Pregled obveznosti do strank in v dobavni verigi ob spremembi: Kadar sprememba razširi Prilogo III, morajo ponudniki brez nepotrebnega odlašanja posredovati posodobljene pogodbene in tehnične obveznosti upravljavcem in priglašenim organom.
• Sledenje odstranitvi kategorij: Kadar Komisija odstrani kategorijo, bi morale organizacije oceniti, ali lahko zmanjšajo breme skladnosti, a morajo ohraniti evidence, ki dokazujejo preteklo skladnost za obdobja, v katerih se je status visokega tveganja uporabljal.

Razmerje do drugih členov

Člena 7 ni mogoče brati ločeno od več drugih določb. Neposredno je podrejen členu 97, ki ureja izvajanje delegiranega pooblastila, vključno s trajanjem delegacije, pogoji za preklic in postopkom parlamentarnega ugovora.

Merila, ki jih člen 7 predpisuje za dodajanje kategorij v Prilogo III, neposredno odražajo okvir za ocenjevanje tveganj, ki je osnova člena 9 (sistem upravljanja tveganj), kar pomeni, da enaka dejanska vprašanja, ki informirajo spremembo Komisije, informirajo tudi notranje obveznosti ponudnika v zvezi z upravljanjem tveganj.

Člen 6 opredeljuje primarno pravilo za razvrstitev visokega tveganja, člen 7 pa deluje kot njegov dinamični dopolnek: skupaj določata, kateri sistemi umetne inteligence spadajo pod obveznosti Naslova III, določene v členih 8 do 49.

Podatki o nadzoru po trženju, zbrani v skladu s členom 72, in poročila o resnih incidentih v skladu s členom 73 neposredno prispevajo k evidenčni osnovi, ki jo Komisija uporablja pri obravnavi sprememb v skladu s členom 7, s čimer ustvarjajo povratno zanko med tržnim nadzorom in regulativno razvrstitvijo. Nazadnje, Priloga III sama je operativno besedilo, ki ga člen 7 spreminja; vsaka analiza skladnosti mora biti izvedena glede na različico Priloge III, ki je bila veljavna v času zadevne dejavnosti, ne pa glede na različico, ki je bila veljavna na kakršen koli predhodni datum.

Časovnica skladnosti

2. avgust 2024 — Uredba (EU) 2024/1689 je začela veljati. Člen 7, vključno z delegiranim pooblastilom Komisije za spremembo Priloge III, je postal operativen od tega datuma. Obdobje delegacije traja pet let od začetka veljavnosti in se lahko molče podaljša v skladu s členom 97.

2. februar 2025 — Prepovedane prakse umetne inteligence v skladu s členom 5 so postale veljavne. Spremembe v skladu s členom 7 ne morejo razveljaviti prepovedi; noben sistem, ki spada pod člen 5, ne more biti rehabilitiran z reklasifikacijo.

2. avgust 2025 — Pravila o modelih umetne inteligence za splošne namene (Naslov VIII) so postala veljavna. Komisijina infrastruktura nadzora po trženju je začela ustvarjati podatke, ki lahko informirajo prihodnje spremembe v skladu s členom 7.

2. avgust 2026 — Sistemi umetne inteligence z visokim tveganjem, ki jih zajema harmonizirano pravo Unije, navedeno v Prilogi I, oddelku A, so postali predmet celovitega režima Naslova III. Spremembe v skladu s členom 7, ki vplivajo na te sektorje, medsebojno delujejo z obstoječo zakonodajo o varnosti izdelkov.

2. avgust 2027 — Sistemi umetne inteligence z visokim tveganjem, navedeni v Prilogi III (razen tistih, ki so že predmet zgodnejših datumov), postanejo v celoti predmet obveznosti Naslova III. To je primarni rok skladnosti za večino organizacij, ki jih zadevajo razvrstitve Priloge III, vključno z morebitnimi prihodnjimi spremembami, narejenimi v skladu s členom 7 pred tem datumom. Spremembe, sprejete po 2. avgustu 2027, bodo določile lastne datume uporabe v skladu s postopkom delegiranega akta.