Článek 14 — Dohled člověka (EU AI Act)

Článek 14 nařízení (EU) 2024/1689 — Dohled člověka. Oficiální text, praktický výklad, klíčové povinnosti a dopady na soulad s předpisy.

Shrnutí oficiálního textu

Článek 14 nařízení (EU) 2024/1689 stanoví povinné požadavky na dohled člověka pro vysoce rizikové systémy AI a tvoří základní pilíř regulačního rámce v hlavě III, kapitole 2. Článek požaduje, aby vysoce rizikové systémy AI byly navrženy a vyvinuty takovým způsobem, aby mohly být efektivně dohlíženy fyzickými osobami po dobu jejich používání.

Konkrétně článek 14 odst. 1 nařizuje, aby poskytovatelé zajistili, tam kde je to technicky proveditelné, že opatření dohledu člověka jsou zabudována do systému před jeho uvedením na trh nebo do provozu. Tato opatření musí umožnit osobám přiděleným k dohledu porozumět schopnostem a omezením systému (článek 14 odst. 4 písm. a)), monitorovat provoz z hlediska příznaků anomálií, poruch nebo neočekávaného výkonu (článek 14 odst. 4 písm. b)), zůstat si vědomy rizika automatizační předpojatosti (článek 14 odst. 4 písm. c)), správně interpretovat výstupy (článek 14 odst. 4 písm. d)) a rozhodnout se systém nepoužívat nebo jej přepsat, ignorovat nebo zastavit v jakékoli situaci (článek 14 odst. 4 písm. e)).

Článek 14 odst. 3 požaduje, aby fyzické osoby přidělené k dohledu měly nezbytnou způsobilost, pravomoc a zdroje k výkonu své role. Tam kde je systém určen k používání fyzickými osobami, musí být opatření dohledu v míře technicky proveditelné zabudována přímo do rozhraní systému. Článek 14 odst. 5 se věnuje systémům s funkcí bezpečnostní součásti a ukládá zvýšená očekávání tam, kde výstup AI vstupuje do bezpečnostně kritických rozhodnutí.

Co to znamená v praxi

Článek 14 vytváří povinnosti pro poskytovatele i nasazovatele, přičemž povaha těchto povinností se na každé fázi životního cyklu systému AI liší.

Pro poskytovatele je povinnost primárně návrhové povahy: dohled člověka nesmí být dodatečným opatřením přidaným po vývoji, ale musí být od počátku technicky zabudován do systému. To znamená budování rozhraní, která zobrazují smysluplné indikátory spolehlivosti, označování výstupů s nízkou jistotou, umožnění přerušení nebo přepsání bez technických překážek a poskytování dokumentace, která nasazovatelům umožňuje pochopit, jaký dohled je realisticky dosažitelný.

Pro nasazovatele je povinnost provozní: musí přidělit kvalifikované osoby k monitorování systému, zajistit, aby tyto osoby byly vyškoleny a informovány o omezeních systému, stanovit postupy pro eskalaci a zásah a vést záznamy o činnosti dohledu. Nasazovatel používající nástroj AI pro screening kandidátů v náboru musí například zajistit, aby lidští náboráři přezkoumávali označené kandidáty, chápali kritéria, která model aplikuje, a zachovávali si pravomoc přepsat hodnocení bez sankcí nebo procesních překážek.

Kritickým praktickým problémem je automatizační předpojatost — zdokumentovaná tendence lidských dohlížitelů nekriticky přejímat výstupy AI. Článek 14 odst. 4 písm. c) výslovně požaduje, aby osoby vykonávající dohled byly tohoto rizika vědomy. V praxi to znamená, že školicí programy musí řešit kognitivní předpojatost a pracovní postupy by měly být strukturovány tak, aby vyžadovaly skutečné uvážení, nikoliv jen formální souhlas.

Nasazovatelé v regulovaných odvětvích, jako jsou zdravotnictví, vymáhání práva a posuzování úvěruschopnosti, čelí zvýšeným očekáváním, s ohledem na závažnost škod, které mohou vyplynout z nekontrolovaných doporučení AI v těchto kontextech.

Klíčové povinnosti

• Integrace ve fázi návrhu: Poskytovatelé musí zabudovat schopnosti dohledu člověka do vysoce rizikových systémů AI před jejich uvedením na trh a zajistit, aby byly technicky realizovatelné a nejen nominální.
• Srozumitelnost: Opatření dohledu musí umožnit přiděleným osobám pochopit schopnosti, zamýšlený účel a omezení systému, včetně podmínek, za nichž může výkon klesat.
• Monitorování anomálií: Přidělené osoby musí být schopny během provozu odhalovat poruchy, neočekávané výstupy a odchylky od očekávaného chování systému.
• Povědomí o předpojatosti: Osoby odpovědné za dohled musí být informovány o riziku automatizační předpojatosti a tendenci nadměrně spoléhat na výstupy generované AI bez nezávislého ověření.
• Pravomoc přepsat: Dohlížitelé musí mít skutečnou, neomezenou schopnost ignorovat, přepsat nebo zastavit systém AI kdykoli během používání, aniž by jim v zásahu bránily technické nebo organizační překážky.
• Požadavky na způsobilost a zdroje: Nasazovatelé musí zajistit, aby osoby přidělené k dohledu měly dostatečnou způsobilost, školení, pravomoc a čas k výkonu smysluplného dohledu — dohled nelze delegovat na osoby postrádající nezbytnou kvalifikaci nebo kapacitu.

Vztah k ostatním článkům

Článek 14 nepůsobí izolovaně. Předpokládá soulad s článkem 9 (systém řízení rizik), jelikož efektivní dohled závisí na tom, zda byla identifikována rizika, která systém představuje, a podmínky, za nichž se dohled stává kritickým. Úzce se propojuje s článkem 13 (transparentnost a poskytování informací nasazovatelům), který požaduje, aby poskytovatelé dodávali informace nezbytné pro to, aby nasazovatelé mohli systém pochopit a dohlížet na něj — bez těchto informací nemůže dohled zamýšlený článkem 14 fungovat.

Článek 16 a článek 26 stanoví obecné povinnosti poskytovatelů a nasazovatelů, do nichž jsou povinnosti podle článku 14 zasazeny. Článek 17 (systém řízení kvality) požaduje, aby postupy dohledu člověka byly zdokumentovány jako součást rámce kvality poskytovatele.

U systémů s funkcí bezpečnostní součásti se článek 14 odst. 5 prolíná s produktovou bezpečnostní legislativou uvedenou v příloze I a s odvětvovými požadavky, které mohou ukládat dodatečné nebo podrobnější povinnosti dohledu. Nakonec článek 72 (monitorování po uvedení na trh) rozšiřuje logiku dohledu za rámec nasazení do průběžného provozního životního cyklu systému.

Časový harmonogram souladu

Nařízení (EU) 2024/1689 vstoupilo v platnost 1. srpna 2024, dvacet dní po zveřejnění v Úředním věstníku. Jeho ustanovení se použijí postupně:

• 2. února 2025: Stala se použitelná zákazy nepřijatelných praktik v oblasti AI (článek 5).
• 2. srpna 2025: Stala se použitelná pravidla pro modely AI pro obecné účely (hlava VIII) a povinnosti správy (hlava III, kapitola 4).
• 2. srpna 2026: Povinnosti pro vysoce rizikové systémy AI uvedené v příloze III — včetně článku 14 — se stávají plně použitelnými pro většinu kategorií. Toto je primární lhůta souladu pro poskytovatele a nasazovatele vysoce rizikových systémů AI podléhajících požadavkům na dohled člověka.
• 2. srpna 2027: Prodloužená lhůta pro určité vysoce rizikové systémy AI, které již podléhají odvětvovým harmonizačním právním předpisům Unie (systémy podle přílohy I), čímž se těmto dodavatelským řetězcům poskytuje dodatečný čas na přizpůsobení postupů posuzování shody.

Poskytovatelé a nasazovatelé vysoce rizikových systémů AI by měli považovat 2. srpen 2026 za operativní lhůtu souladu s článkem 14, přičemž přípravné návrhové a správní práce musí být zahájeny s dostatečným předstihem před tímto datem, aby bylo možné provést posouzení shody a dokumentaci.