Člen 14 Uredbe (EU) 2024/1689 — Človeški nadzor. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.
Povzetek uradnega besedila
Člen 14 Uredbe (EU) 2024/1689 določa obvezne zahteve za človeški nadzor visoko tveganih sistemov UI ter predstavlja osrednji steber regulativnega okvira v okviru naslova III, poglavja 2. Člen zahteva, da so visoko tvegani sistemi UI oblikovani in razviti tako, da jih fizične osebe med obdobjem uporabe lahko učinkovito nadzorujejo.
Natančneje, člen 14(1) zahteva, da ponudniki zagotovijo — kadar je to tehnično izvedljivo — da so ukrepi človeškega nadzora vgrajeni v sistem pred dajanjem na trg ali zagotovitvijo storitve. Ti ukrepi morajo osebam, zadolženim za nadzor, omogočiti razumevanje zmogljivosti in omejitev sistema (člen 14(4)(a)), spremljanje delovanja glede znakov anomalije, okvare ali nepričakovane zmogljivosti (člen 14(4)(b)), ozaveščenost o tveganju avtomatizacijske pristranskosti (člen 14(4)(c)), pravilno razlaganje rezultatov (člen 14(4)(d)) in odločitev, da sistema ne uporabijo ali da ga preglasijo, prezrejo ali ustavijo v kakršni koli situaciji (člen 14(4)(e)).
Člen 14(3) zahteva, da imajo fizične osebe, zadolžene za nadzor, potrebne kompetence, pooblastila in vire za opravljanje svoje vloge. Kadar je sistem namenjen uporabi s strani fizičnih oseb, morajo biti ukrepi nadzora v obsegu, ki je tehnično izvedljiv, vgrajeni neposredno v vmesnik sistema. Člen 14(5) obravnava sisteme s funkcijo varnostne komponente in določa povišana pričakovanja, kadar rezultat UI prispeva k varnostno kritičnim odločitvam.
Kaj to pomeni v praksi
Člen 14 ustvarja obveznosti tako za ponudnike kot za uporabnike, čeprav se narava teh obveznosti na vsaki stopnji življenjskega cikla sistema UI razlikuje.
Za ponudnike je obveznost v osnovi oblikovalska: človeški nadzor ne sme biti naknadna rešitev, pritrjena po razvoju, temveč mora biti lastnost, ki je v sistem vgrajena od samega začetka. To pomeni gradnjo vmesnikov, ki prikazujejo smiselne kazalnike zaupanja, označevanje rezultatov z nizko gotovostjo, omogočanje prekinitve ali preglasitve brez tehničnih ovir in zagotavljanje dokumentacije, ki omogoča uporabnikom razumeti, kakšen nadzor je realno dosegljiv.
Za uporabnike je obveznost operativna: dodeliti morajo usposobljene posameznike za nadzor sistema, zagotoviti, da so ti posamezniki usposobljeni in obveščeni o omejitvah sistema, vzpostaviti postopke za eskalacijo in posredovanje ter voditi evidence o dejavnostih nadzora. Uporabnik, ki uporablja orodje za pregledovanje kandidatov pri zaposlovanju na podlagi UI, mora na primer zagotoviti, da človeški kadroviki pregledajo označene kandidate, razumejo merila, ki jih model uporablja, in ohranijo pooblastilo za preglasitev uvrstitev brez kazenskih sankcij ali postopkovnih ovir.
Ključna praktična skrb je avtomatizacijska pristranskost — dokumentirana nagnjenost nadzornih oseb k nekritičnemu zaupanju rezultatom UI. Člen 14(4)(c) izrecno zahteva, da so nadzorne osebe ozaveščene o tem tveganju. V praksi to pomeni, da morajo programi usposabljanja obravnavati kognitivno pristranskost in da morajo biti delovni tokovi zasnovani tako, da zahtevajo resnično premišljanje, ne le formalno potrditev.
Uporabniki v reguliranih sektorjih, kot so zdravstvo, kazenski pregon in ocenjevanje kreditne sposobnosti, se soočajo s povišanimi pričakovanji glede na resnost škode, ki lahko nastane zaradi nenadzorovanih priporočil UI v teh kontekstih.
Ključne obveznosti
- Vgradnja v fazi oblikovanja: Ponudniki morajo zmogljivosti človeškega nadzora vgraditi v visoko tvegane sisteme UI pred dajanjem na trg ter zagotoviti, da so tehnično uresničljive in ne le nominalne.
- Razumljivost: Ukrepi nadzora morajo dodeljenim osebam omogočiti razumevanje zmogljivosti, predvidenega namena in omejitev sistema, vključno s pogoji, v katerih se zmogljivost lahko poslabša.
- Spremljanje anomalij: Dodeljene osebe morajo biti sposobne zaznati okvare, nepričakovane rezultate in odstopanja od pričakovanega vedenja sistema med delovanjem.
- Ozaveščenost o pristranskosti: Osebe, odgovorne za nadzor, morajo biti ozaveščene o tveganju avtomatizacijske pristranskosti in nagnjenosti k prekomernemu zanašanju na rezultate, ki jih generira UI, brez neodvisnega preverjanja.
- Pooblastilo za preglasitev: Nadzorniki morajo imeti resnično, neovrgljivo sposobnost prezrtja, preglasitve ali ustavitve sistema UI kadar koli med uporabo, brez tehničnih ali organizacijskih ovir, ki bi preprečevale posredovanje.
- Zahteve glede usposobljenosti in virov: Uporabniki morajo zagotoviti, da imajo osebe, zadolžene za nadzor, zadostno usposobljenost, usposabljanje, pooblastila in čas za izvajanje smiselnega nadzora — nadzora ni mogoče delegirati osebam, ki nimajo potrebnih kvalifikacij ali zmogljivosti.
Razmerje do drugih členov
Člen 14 ne deluje v izolaciji. Predpostavlja skladnost s členom 9 (sistem upravljanja tveganj), saj učinkovit nadzor predpostavlja prepoznavanje tveganj, ki jih sistem predstavlja, in pogojev, v katerih nadzor postane kritičen. Tesno je povezan s členom 13 (preglednost in zagotavljanje informacij uporabnikom), ki od ponudnikov zahteva, da posredujejo informacije, potrebne za razumevanje in nadzor sistema s strani uporabnikov — brez teh informacij nadzor, kot ga predvideva člen 14, ne more delovati.
Člen 16 in člen 26 določata splošne obveznosti ponudnikov oziroma uporabnikov, znotraj katerih so ugnezdene obveznosti iz člena 14. Člen 17 (sistem upravljanja kakovosti) zahteva, da so postopki človeškega nadzora dokumentirani kot del okvira kakovosti ponudnika.
Za sisteme z varnostno komponento se člen 14(5) prepleta z zakonodajo o varnosti proizvodov, navedeno v Prilogi I, in s sektorsko specifičnimi zahtevami, ki lahko nalagajo dodatne ali natančnejše nadzorne obveznosti. Nazadnje, člen 72 (nadzor po dajanju na trg) razširja logiko nadzora onkraj uvedbe na celotni operativni življenjski cikel sistema.
Časovnica skladnosti
Uredba (EU) 2024/1689 je začela veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu. Njene določbe se uporabljajo v fazah:
- 2. februar 2025: Začele so se uporabljati prepovedi praks UI z nesprejemljivim tveganjem (člen 5).
- 2. avgust 2025: Začela so se uporabljati pravila o modelih UI za splošne namene (naslov VIII) in obveznosti upravljanja (naslov III, poglavje 4).
- 2. avgust 2026: Obveznosti za visoko tvegane sisteme UI, navedene v Prilogi III — vključno s členom 14 — postanejo v celoti veljavne za večino kategorij. To je primarni rok skladnosti za ponudnike in uporabnike visoko tveganih sistemov UI, za katere veljajo zahteve za človeški nadzor.
- 2. avgust 2027: Podaljšan rok za nekatere visoko tvegane sisteme UI, ki so že predmet sektorsko specifične harmonizacijske zakonodaje Unije (sistemi iz Priloge I), kar daje tem dobavnim verigam dodatni čas za prilagoditev postopkov ugotavljanja skladnosti.
Ponudniki in uporabniki visoko tveganih sistemov UI bi morali 2. avgust 2026 obravnavati kot operativni rok za skladnost s členom 14, pri čemer mora pripravljalno oblikovalsko in upravljavsko delo začeti dovolj pred tem datumom, da se omogoči ugotavljanje skladnosti in dokumentacija.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Ponudniki visoko tveganih sistemov UI nosijo glavno odgovornost za oblikovanje in vgradnjo zmogljivosti človeškega nadzora v svoje sisteme pred dajanjem na trg. Uporabniki so nato odgovorni za dejansko izvajanje teh ukrepov, dodeljevanje usposobljenih fizičnih oseb za nadzor delovanja sistema in zagotavljanje, da imajo te osebe potrebna pooblastila in usposobljenost za posredovanje.
Učinkovit nadzor pomeni, da morajo fizične osebe, ki so zadolžene za nadzor visoko tveganega sistema UI, biti sposobne v celoti razumeti zmogljivosti in omejitve sistema, zaznati in odpraviti napake ali nepričakovano vedenje, pravilno razlagati rezultate sistema ter se odločiti, da prezrejo, preglasijo ali ustavijo sistem, kadar je to potrebno. Ni dovolj le nominalno dodeliti osebo — ta oseba mora imeti resnično zmogljivost in pooblastilo za ukrepanje.
Ne. Člen 14 ne zahteva človeškega odobrenja vsakega posameznega izhoda. Zahteva, da je človeški nadzor vgrajen v sistem in njegov kontekst uvajanja, tako da odgovorna oseba lahko nadzira delovanje, prepozna anomalije in posreduje. Intenzivnost nadzora mora biti sorazmerna s tveganjem; nekateri visoko tvegani konteksti lahko zahtevajo natančnejši in pogostejši človeški pregled kot drugi.
Člen 14(4) prizna, da je treba za določene sisteme, namenjene uporabi s strani fizičnih oseb, ukrepe človeškega nadzora vgraditi v sistem v obsegu, ki je tehnično izvedljiv glede na predvideni namen. Kadar popolnega nadzora ni mogoče vgraditi, morajo ponudniki to omejitev dokumentirati, uporabniki pa morajo nadomestilo zagotoviti prek organizacijskih in postopkovnih zaščitnih ukrepov.
Da. Člen 14 se nanaša na vse visoko tvegane sisteme UI, kot so opredeljeni v Prilogi III in členu 6, ne glede na to, ali sistem sprejema popolnoma avtonomne odločitve ali zgolj pomaga človeškim odločevalcem. Tudi pomožni sistemi lahko vplivajo na izide na načine, ki zahtevajo strukturiran nadzor, zlasti kadar se rezultati morda nekritično upoštevajo.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.