Článok 14 nariadenia (EÚ) 2024/1689 — Ľudský dohľad. Úradný text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.
Zhrnutie úradného textu
Článok 14 nariadenia (EÚ) 2024/1689 stanovuje povinné požiadavky na ľudský dohľad nad vysoko rizikovými systémami umelej inteligencie, čím tvorí základný pilier regulačného rámca v rámci hlavy III, kapitoly 2. Článok vyžaduje, aby vysoko rizikové systémy umelej inteligencie boli navrhnuté a vyvinuté tak, aby ich fyzické osoby mohli počas obdobia používania účinne dohliadať.
Konkrétne článok 14 ods. 1 nariaďuje poskytovateľom zabezpečiť, aby v technicky uskutočniteľnej miere boli opatrenia ľudského dohľadu zabudované do systému pred jeho uvedením na trh alebo do prevádzky. Tieto opatrenia musia umožniť osobám povereným dohľadom porozumieť schopnostiam a obmedzeniam systému (článok 14 ods. 4 písm. a)), monitorovať prevádzku na znaky anomálie, poruchy alebo neočakávaného výkonu (článok 14 ods. 4 písm. b)), zostať si vedomé rizika automatizačnej predpojatosti (článok 14 ods. 4 písm. c)), správne interpretovať výstupy (článok 14 ods. 4 písm. d)) a rozhodnúť sa systém nepoužívať alebo ho v akejkoľvek situácii prepísať, ignorovať alebo zastaviť (článok 14 ods. 4 písm. e)).
Článok 14 ods. 3 vyžaduje, aby fyzické osoby poverené dohľadom mali potrebné kompetencie, právomoci a zdroje na vykonávanie svojej úlohy. Ak je systém určený na používanie fyzickými osobami, opatrenia dohľadu musia byť v technicky uskutočniteľnej miere zabudované priamo do rozhrania systému. Článok 14 ods. 5 sa zaoberá systémami s funkciou bezpečnostnej súčasti a kladie zvýšené požiadavky tam, kde výstupy umelej inteligencie ovplyvňujú rozhodnutia kritické pre bezpečnosť.
Čo to znamená v praxi
Článok 14 vytvára povinnosti pre poskytovateľov aj prevádzkovateľov, hoci povaha týchto povinností sa líši v každej fáze životného cyklu systému umelej inteligencie.
Pre poskytovateľov je povinnosť predovšetkým návrhová: ľudský dohľad nesmie byť funkciou doplnenou po skončení vývoja, ale vlastnosťou zabudovanou do systému od samého začiatku. Znamená to budovanie rozhraní, ktoré zobrazujú zmysluplné ukazovatele istoty, označovanie výstupov s nízkou istotou, umožnenie prerušenia alebo prepísania bez technického trenia a poskytovanie dokumentácie, ktorá prevádzkovateľom umožní pochopiť, aký dohľad je realisticky dosiahnuteľný.
Pre prevádzkovateľov je povinnosť operačná: musia poveriť kvalifikované osoby monitorovaním systému, zabezpečiť, aby tieto osoby boli vyškolené a informované o obmedzeniach systému, zaviesť postupy eskalácie a zásahu a viesť záznamy o činnostiach dohľadu. Prevádzkovateľ, ktorý používa nástroj na predbežný výber uchádzačov na základe umelej inteligencie, musí napríklad zabezpečiť, aby ľudskí náboroví pracovníci preskúmali označených kandidátov, pochopili kritériá, ktoré model uplatňuje, a zachovali právomoc prepísať hodnotenia bez sankcie alebo procesných prekážok.
Kritickou praktickou otázkou je automatizačná predpojatosť — zdokumentovaná tendencia ľudských dohliadajúcich nekriticky spoliehať sa na výstupy umelej inteligencie. Článok 14 ods. 4 písm. c) výslovne vyžaduje, aby osoby zodpovedné za dohľad boli si vedomé tohto rizika. V praxi to znamená, že školiace programy musia riešiť kognitívnu predpojatosť a pracovné postupy musia byť štruktúrované tak, aby si vyžadovali skutočné uvažovanie, a nie len mechanické schvaľovanie.
Prevádzkovatelia v regulovaných sektoroch, ako je zdravotníctvo, presadzovanie práva a hodnotenie kreditov, čelia zvýšeným požiadavkám s ohľadom na závažnosť škôd, ktoré môžu vyplynúť z nekontrolovaných odporúčaní umelej inteligencie v týchto kontextoch.
Kľúčové povinnosti
- Integrácia vo fáze návrhu: Poskytovatelia musia zabudovať schopnosti ľudského dohľadu do vysoko rizikových systémov umelej inteligencie pred ich uvedením na trh, pričom musia zabezpečiť, aby boli technicky realizovateľné a nielen nominálne.
- Zrozumiteľnosť: Opatrenia dohľadu musia umožniť povereným osobám pochopiť schopnosti, zamýšľaný účel a obmedzenia systému vrátane podmienok, za ktorých môže dôjsť k zhoršeniu výkonu.
- Monitorovanie anomálií: Poverené osoby musia byť schopné počas prevádzky zistiť poruchy, neočakávané výstupy a odchýlky od očakávaného správania systému.
- Povedomie o predpojatosti: Osoby zodpovedné za dohľad musia byť oboznámené s rizikom automatizačnej predpojatosti a tendenciou nadmerne sa spoliehať na výstupy generované umelou inteligenciou bez nezávislého overenia.
- Právomoc prepísania: Dohliadajúce osoby musia mať skutočnú, neobmedzenú schopnosť ignorovať, prepísať alebo zastaviť systém umelej inteligencie v akomkoľvek okamihu počas používania bez technických alebo organizačných prekážok brániacich zásahu.
- Požiadavky na kompetencie a zdroje: Prevádzkovatelia musia zabezpečiť, aby osoby poverené dohľadom mali dostatočné kompetencie, školenie, právomoci a čas na vykonávanie zmysluplného dohľadu — dohľad nemožno delegovať na osoby bez potrebných kvalifikácií alebo kapacity.
Vzťah k iným článkom
Článok 14 nefunguje izolovane. Predpokladá súlad s článkom 9 (systém riadenia rizík), keďže účinný dohľad závisí od identifikácie rizík, ktoré systém predstavuje, a podmienok, za ktorých sa dohľad stáva kritickým. Úzko súvisí s článkom 13 (transparentnosť a poskytovanie informácií prevádzkovateľom), ktorý vyžaduje, aby poskytovatelia poskytli informácie potrebné na to, aby prevádzkovatelia mohli systém pochopiť a dohliadať naň — bez týchto informácií dohľad predvídaný článkom 14 nemôže fungovať.
Článok 16 a článok 26 stanovujú všeobecné povinnosti poskytovateľov a prevádzkovateľov, v rámci ktorých sú zahrnuté povinnosti článku 14. Článok 17 (systém riadenia kvality) vyžaduje, aby postupy ľudského dohľadu boli zdokumentované ako súčasť rámca kvality poskytovateľa.
Pre systémy s funkciou bezpečnostnej súčasti sa článok 14 ods. 5 prelína s právnymi predpismi o bezpečnosti výrobkov uvedenými v prílohe I a s odvetvovými požiadavkami, ktoré môžu ukladať dodatočné alebo podrobnejšie povinnosti dohľadu. Napokon článok 72 (monitorovanie po uvedení na trh) rozširuje logiku dohľadu za rámec nasadenia na prebiehajúci prevádzkový životný cyklus systému.
Harmonogram súladu
Nariadenie (EÚ) 2024/1689 nadobudlo platnosť 1. augusta 2024, dvadsať dní po uverejnení v Úradnom vestníku. Jeho ustanovenia sa uplatňujú podľa postupného harmonogramu:
- 2. februára 2025: Zákazy praktík umelej inteligencie s neprijateľným rizikom (článok 5) sa stali uplatniteľnými.
- 2. augusta 2025: Pravidlá pre modely umelej inteligencie na všeobecné účely (hlava VIII) a povinnosti v oblasti správy a riadenia (hlava III, kapitola 4) sa stali uplatniteľnými.
- 2. augusta 2026: Povinnosti pre vysoko rizikové systémy umelej inteligencie uvedené v prílohe III — vrátane článku 14 — sa stávajú plne uplatniteľnými pre väčšinu kategórií. Ide o primárny termín súladu pre poskytovateľov a prevádzkovateľov vysoko rizikových systémov umelej inteligencie podliehajúcich požiadavkám ľudského dohľadu.
- 2. augusta 2027: Predĺžený termín pre niektoré vysoko rizikové systémy umelej inteligencie, ktoré už podliehajú odvetvovej harmonizačnej legislatíve Únie (systémy podľa prílohy I), čím sa týmto dodávateľským reťazcom poskytuje dodatočný čas na prispôsobenie postupov posúdenia zhody.
Poskytovatelia a prevádzkovatelia vysoko rizikových systémov umelej inteligencie by mali považovať 2. august 2026 za operačný termín súladu s článkom 14, pričom prípravné návrhové a riadiace práce si vyžadujú začatie dostatočne vopred pred týmto dátumom, aby umožnili posúdenie zhody a dokumentáciu.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Poskytovatelia vysoko rizikových systémov umelej inteligencie nesú primárnu zodpovednosť za navrhovanie a budovanie schopností ľudského dohľadu do svojich systémov pred ich uvedením na trh. Prevádzkovatelia sú potom zodpovední za praktické zavedenie týchto opatrení, poverenie kvalifikovaných fyzických osôb dohľadom nad prevádzkou systému a zabezpečenie toho, aby tieto osoby mali potrebné právomoci a kompetencie na zásah.
Účinný dohľad znamená, že fyzické osoby poverené monitorovaním vysoko rizikového systému umelej inteligencie musia byť schopné plne porozumieť schopnostiam a obmedzeniam systému, zistiť a riešiť zlyhania alebo neočakávané správanie, správne interpretovať jeho výstupy a rozhodnúť sa systém ignorovať, prepísať alebo zastaviť, keď je to potrebné. Nestačí nominálne poveriť osobu — táto osoba musí mať skutočnú kapacitu a právomoc konať.
Nie. Článok 14 nenariaďuje ľudské schválenie každého jednotlivého výstupu. Vyžaduje, aby bol ľudský dohľad zabudovaný do systému a kontextu jeho nasadenia, aby zodpovedná osoba mohla monitorovať prevádzku, identifikovať anomálie a zasiahnuť. Intenzita dohľadu musí byť primeraná riziku; niektoré vysoko rizikové kontexty môžu vyžadovať dôkladnejší a častejší ľudský preskúm ako iné.
Článok 14 ods. 4 uznáva, že v prípade určitých systémov určených na používanie fyzickými osobami musia byť opatrenia ľudského dohľadu zabudované do systému v technicky uskutočniteľnej miere, s ohľadom na zamýšľaný účel. Ak nie je možné zabudovať úplný dohľad, poskytovatelia musia toto obmedzenie zdokumentovať a prevádzkovatelia ho musia kompenzovať prostredníctvom organizačných a procedurálnych záruk.
Áno. Článok 14 sa vzťahuje na všetky vysoko rizikové systémy umelej inteligencie vymedzené v prílohe III a článku 6 bez ohľadu na to, či systém prijíma plne autonómne rozhodnutia, alebo len pomáha ľudským rozhodovateľom. Aj asistenčné systémy môžu ovplyvňovať výsledky spôsobmi, ktoré si vyžadujú štruktúrovaný dohľad, najmä tam, kde sa výstupy môžu nekriticky nasledovať.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.