Članak 14 Uredbe (EU) 2024/1689 — Ljudski nadzor. Službeni tekst, praktična interpretacija, ključne obveze i implikacije za usklađenost.
Sažetak službenog teksta
Članak 14 Uredbe (EU) 2024/1689 uspostavlja obvezne zahtjeve ljudskog nadzora za visokorisične sustave AI, tvoreći temeljni stup regulatornog okvira prema Glavi III, Poglavlju 2. Članak zahtijeva da visokorisični sustavi AI budu projektirani i razvijeni na takav način da ih fizičke osobe mogu učinkovito nadzirati za vrijeme upotrebe.
Konkretno, Članak 14(1) nalaže da pružatelji, gdje je tehnički izvedivo, osiguraju da su mjere ljudskog nadzora ugrađene u sustav prije stavljanja na tržište ili puštanja u upotrebu. Te mjere moraju omogućiti osobama dodijeljenim za nadzor da razumiju sposobnosti i ograničenja sustava (Članak 14(4)(a)), prate rad radi znakova anomalije, disfunkcije ili neočekivanih performansi (Članak 14(4)(b)), budu svjesne rizika od automatizacijske pristranosti (Članak 14(4)(c)), ispravno interpretiraju izlaze (Članak 14(4)(d)) te odluče ne koristiti sustav ili ga poništiti, ignorirati ili zaustaviti u bilo kojoj situaciji (Članak 14(4)(e)).
Članak 14(3) zahtijeva da fizičke osobe dodijeljene za nadzor imaju potrebne kompetencije, ovlasti i resurse za obavljanje svoje uloge. Gdje je sustav namijenjen za upotrebu od strane fizičkih osoba, mjere nadzora moraju, u mjeri u kojoj je to tehnički izvedivo, biti izravno ugrađene u sučelje sustava. Članak 14(5) bavi se sustavima s funkcijom sigurnosne komponente, nameću povišena očekivanja tamo gdje izlaz AI utječe na sigurnosno-kritične odluke.
Što to znači u praksi
Članak 14 stvara obveze i za pružatelje i za distributere, premda se priroda tih obveza razlikuje u svakoj fazi životnog ciklusa sustava AI.
Za pružatelje, obveza je primarno projektna: ljudski nadzor ne smije biti naknadna dopuna prikvačena nakon razvoja, već značajka koja je inženjerski ugrađena u sustav od samog početka. To znači izgradnju sučelja koja prikazuju smislene pokazatelje pouzdanosti, označavanje izlaza niske sigurnosti, omogućavanje prekida ili poništavanja bez tehničkih prepreka te pružanje dokumentacije koja distributerima omogućava razumijevanje što je realistično postiživo u nadzoru.
Za distributere, obveza je operativna: moraju dodijeliti kvalificirane pojedince za praćenje sustava, osigurati da su ti pojedinci obučeni i informirani o ograničenjima sustava, uspostaviti postupke za eskalaciju i intervenciju te voditi evidencije o aktivnostima nadzora. Distributer koji koristi alat za provjeru životopisa uz pomoć AI, na primjer, mora osigurati da ljudski regrutori pregledavaju označene kandidate, razumiju kriterije koje model primjenjuje te zadržavaju ovlast za poništavanje rangiranja bez kazne ili postupovnih prepreka.
Kritična praktična briga je automatizacijska pristranost — dokumentirana tendencija ljudskih nadzornika da se nekritički prepuštaju izlazima AI. Članak 14(4)(c) izričito zahtijeva da osobe za nadzor budu svjesne ovog rizika. U praksi, to znači da programi obuke moraju obrađivati kognitivne pristranosti, a tijekovi rada trebaju biti strukturirani tako da zahtijevaju pravo promišljanje, a ne puko formalno potvrđivanje.
Distributeri u reguliranim sektorima kao što su zdravstvena zaštita, provedba zakona i kreditna procjena suočavaju se s povišenim očekivanjima, s obzirom na ozbiljnost štete koja može rezultirati iz nekontroliranih preporuka AI u tim kontekstima.
Ključne obveze
- Integracija u fazi projektiranja: Pružatelji moraju ugraditi sposobnosti ljudskog nadzora u visokorisične sustave AI prije stavljanja na tržište, osiguravajući da su tehnički ostvarive, a ne samo nominalne.
- Razumljivost: Mjere nadzora moraju omogućiti dodijeljenim osobama da razumiju sposobnosti, namijenjenu svrhu i ograničenja sustava, uključujući uvjete pod kojima performanse mogu se pogoršati.
- Praćenje anomalija: Dodijeljene osobe moraju biti u mogućnosti otkrivati kvarove, neočekivane izlaze i odstupanja od očekivanog ponašanja sustava za vrijeme rada.
- Svjesnost o pristranosti: Osobe odgovorne za nadzor moraju biti upoznate s rizikom automatizacijske pristranosti i tendencijom pretjeranog oslanjanja na izlaze generirane AI bez neovisne provjere.
- Ovlast za poništavanje: Nadzornici moraju imati stvarnu, neometanu sposobnost ignoriranja, poništavanja ili zaustavljanja sustava AI u bilo kojem trenutku za vrijeme upotrebe, bez tehničkih ili organizacijskih prepreka koje bi sprječavale intervenciju.
- Zahtjevi za kompetencijom i resursima: Distributeri moraju osigurati da osobe dodijeljene za nadzor imaju dovoljnu kompetenciju, obuku, ovlasti i vrijeme za obavljanje smislenog nadzora — nadzor se ne može delegirati osobama kojima nedostaju potrebne kvalifikacije ili kapacitet.
Odnos prema ostalim Člancima
Članak 14 ne funkcionira izolirano. On pretpostavlja usklađenost s Člankom 9 (sustav upravljanja rizicima), budući da učinkoviti nadzor ovisi o identificiranju rizika koje sustav predstavlja i uvjeta pod kojima nadzor postaje kritičan. Usko se povezuje s Člankom 13 (transparentnost i pružanje informacija distributerima), koji zahtijeva od pružatelja da dostave informacije potrebne distributerima za razumijevanje i nadzor sustava — bez tih informacija, nadzor kako ga zamišlja Članak 14 ne može funkcionirati.
Članak 16 i Članak 26 utvrđuju opće obveze pružatelja i distributera respektivno, unutar kojih su ugniježđene obveze Članka 14. Članak 17 (sustav upravljanja kvalitetom) zahtijeva da postupci ljudskog nadzora budu dokumentirani kao dio kvalitetnog okvira pružatelja.
Za sustave sa sigurnosnom komponentom, Članak 14(5) sječe se sa zakonodavstvom o sigurnosti proizvoda navedenim u Annexu I i sa sektorskim zahtjevima koji mogu nametati dodatne ili preciznije obveze nadzora. Konačno, Članak 72 (praćenje nakon stavljanja na tržište) proširuje logiku nadzora izvan primjene u tekući operativni životni ciklus sustava.
Vremenski okvir usklađenosti
Uredba (EU) 2024/1689 stupila je na snagu 1. kolovoza 2024., dvadeset dana nakon objave u Službenom listu. Njezine odredbe primjenjuju se prema faznom rasporedu:
- 2. veljače 2025.: Postale su primjenjive zabrane praksi AI s neprihvatljivim rizikom (Članak 5).
- 2. kolovoza 2025.: Postala su primjenjiva pravila o modelima AI opće namjene (Glava VIII) i obveze upravljanja (Glava III, Poglavlje 4).
- 2. kolovoza 2026.: Obveze za visokorisične sustave AI navedene u Annexu III — uključujući Članak 14 — postaju u potpunosti primjenjive za većinu kategorija. Ovo je primarni rok usklađenosti za pružatelje i distributere visokorisičnih sustava AI podložnih zahtjevima ljudskog nadzora.
- 2. kolovoza 2027.: Produljeni rok za određene visokorisične sustave AI koji su već podložni sektorskom zakonodavstvu Unije o harmonizaciji (sustavi Annexa I), dajući tim lancima opskrbe dodatno vrijeme za prilagodbu postupaka ocjenjivanja sukladnosti.
Pružatelji i distributeri visokorisičnih sustava AI trebali bi tretirati 2. kolovoza 2026. kao operativni rok za usklađenost s Člankom 14, s pripremnim projektiranjem i radom na upravljanju koji zahtijevaju početak znatno unaprijed od tog datuma kako bi se omogućilo ocjenjivanje sukladnosti i dokumentacija.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Pružatelji visokorisičnih sustava AI snose primarnu odgovornost za projektiranje i ugradnju sposobnosti ljudskog nadzora u svoje sustave prije stavljanja na tržište. Distributeri su zatim odgovorni za praktičnu implementaciju tih mjera, dodjelu kvalificiranih fizičkih osoba za nadzor rada sustava te osiguravanje da te osobe imaju potrebne ovlasti i kompetencije za intervenciju.
Učinkovit nadzor znači da fizičke osobe dodijeljene za praćenje visokorisičnog sustava AI moraju biti u stanju u potpunosti razumjeti sposobnosti i ograničenja sustava, otkrivati i rješavati kvarove ili neočekivana ponašanja, ispravno interpretirati njegove izlaze te odabrati ignorirati, poništiti ili zaustaviti sustav kada je to potrebno. Nije dovoljno nominalno dodijeliti osobu — ta osoba mora imati stvarnu sposobnost i ovlast za djelovanje.
Ne. Članak 14 ne nalaže ljudsko odobrenje svakog pojedinačnog izlaza. Zahtijeva da je ljudski nadzor ugrađen u sustav i u njegov kontekst primjene tako da odgovorna osoba može pratiti rad, identificirati anomalije i intervenirati. Intenzitet nadzora mora biti razmjeran riziku; neki visokorisični konteksti mogu zahtijevati bliži, češći ljudski pregled od drugih.
Članak 14(4) priznaje da za određene sustave namijenjene za upotrebu od strane fizičkih osoba, mjere ljudskog nadzora moraju biti ugrađene u sustav u mjeri u kojoj je to tehnički izvedivo, uzimajući u obzir namijenjenu svrhu. Gdje se potpuni nadzor ne može ugraditi, pružatelji moraju dokumentirati to ograničenje, a distributeri moraju kompenzirati organizacijskim i postupovnim zaštitnim mjerama.
Da. Članak 14 primjenjuje se na sve visokorisične sustave AI kako su definirani u Annexu III i Članku 6, bez obzira na to donosi li sustav potpuno autonomne odluke ili samo pomaže ljudskim donosiocima odluka. Čak i pomoćni sustavi mogu utjecati na ishode na načine koji zahtijevaju strukturirani nadzor, posebno tamo gdje se na izlaze može nekritički oslanjati.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.