Článek 72 Nařízení (EU) 2024/1689 — Monitorování po uvedení na trh poskytovateli a plán monitorování po uvedení na trh pro vysoce rizikové systémy AI. Oficiální text, praktický výklad, klíčové povinnosti a důsledky pro dodržování předpisů.

Shrnutí oficiálního znění

Článek 72 Nařízení (EU) 2024/1689 zavádí povinné monitorování po uvedení na trh pro poskytovatele vysoce rizikových systémů AI. Poskytovatelé jsou povinni proaktivně shromažďovat, dokumentovat a analyzovat relevantní data o výkonu svých vysoce rizikových systémů AI po celou dobu jejich provozní životnosti poté, co byly uvedeny na trh nebo do provozu.

Článek nařizuje poskytovatelům vypracovat a provádět plán monitorování po uvedení na trh, který musí být přiměřený povaze vysoce rizikové technologie AI a s ní spojeným rizikům. Tento plán musí být součástí technické dokumentace vypracované podle Článek 11 a stanovené v souladu s přílohou IV. Musí definovat metody a postupy pro systematické shromažďování dat o výkonu, včetně dat získaných od provozovatelů, pokud je to relevantní.

Pokud monitorování odhalí, že vysoce rizikový systém AI již nesplňuje požadavky stanovené v Chapter III, Section 2, musí poskytovatel bez prodlení přijmout odpovídající nápravná opatření. To zahrnuje aktualizaci systému, jeho stažení z trhu nebo odvolání, je-li to nutné.

Článek 72 rovněž uznává roli provozovatelů: poskytovatelé musí instruovat provozovatele, aby dodávali relevantní provozní data, která nelze přímo shromažďovat. Povinnost monitorování je průběžná, nikoli jednorázová, což odráží dynamickou povahu výkonu systémů AI a vyvíjející se kontexty, ve kterých jsou tyto systémy nasazovány.

Co to znamená v praxi

Pro organizace, které vyvíjejí nebo dodávají vysoce rizikové systémy AI, zavádí Článek 72 strukturovanou průběžnou povinnost dodržování předpisů, která sahá daleko za okamžik uvedení na trh. Poskytovatelé nemohou považovat posouzení shody za jednorázové cvičení. Místo toho musí navrhnout a zprovoznit monitorovací infrastrukturu před uvedením svého systému do provozu.

V praktickém smyslu to znamená předem definovat, jaká data budou shromažďována z nasazených instancí systému, jak budou tato data analyzována a jaké prahové hodnoty výkonu spustí přezkum nebo nápravné opatření. Například poskytovatel diagnostického nástroje pro zdravotnické prostředky s podporou AI musí specifikovat, které ukazatele — jako míra falešně negativních výsledků, rozdíly ve výkonu podle demografických skupin nebo metriky posunu modelu — budou sledovány, jak často a kým.

Poskytovatelé systémů AI zabudovaných do produktů třetích stran čelí dalšímu problému: jsou závislí na provozovatelích, kteří přenášejí provozní data, k nimž poskytovatel nemá přímý přístup. To vyžaduje smluvní ujednání s provozovateli, která jasně definují povinnosti sdílení dat, jak předpokládá kombinované čtení Článek 72 a Článek 25.

Organizace se stávajícími systémy řízení kvality (QMS) — například ty, které již splňují ISO 13485 pro zdravotnické prostředky nebo ISO 9001 obecněji — naleznou přirozenou shodu s požadavky Článek 72. Plán monitorování po uvedení na trh by měl být integrován do širšího QMS zdokumentovaného podle Článek 17, spíše než být považován za samostatný dokument.

Menší poskytovatelé a startupy budou muset tuto funkci odpovídajícím způsobem financovat: Článek 72 neposkytuje výjimku de minimis na základě velikosti společnosti, i když přiměřenost plánu k úrovni rizika systému je výslovně uznána.

Klíčové povinnosti

Vztah k ostatním článkům

Článek 72 se nachází ve středu skupiny vzájemně propojených povinností. Přímo napájí Článek 73, který upravuje hlášení závažných incidentů a poruch vnitrostátním příslušným orgánům: monitorovací systém zavedený podle Článek 72 je detekčním mechanismem pro události, které Článek 73 vyžaduje hlásit.

Článek 17 (systémy řízení kvality) poskytuje organizační rámec, do nějž musí být plán monitorování po uvedení na trh zabudován. Článek 11 a přílohy IV definují požadavky na technickou dokumentaci, jejíž součástí musí plán monitorování být.

Článek 25 rozděluje odpovědnosti mezi poskytovatele a provozovatele a je zásadní pro pochopení toho, jak mohou poskytovatelé získávat provozní data od koncových uživatelů. Článek 26 to doplňuje podrobným popisem povinností provozovatelů, včetně povinnosti monitorovat používání systému a hlásit anomálie poskytovateli.

Pro vysoce rizikové systémy AI, které jsou bezpečnostními komponenty produktů zahrnutých v harmonizačních předpisech Unie uvedených v přílohy I, musí být Článek 72 vykládán spolu s povinnostmi dohledu po uvedení na trh v příslušném odvětvovém nařízení, jako je Nařízení o zdravotnických prostředcích (EU) 2017/745 nebo Nařízení o strojních zařízeních (EU) 2023/1230, aby bylo zajištěno koherentní a neduplicitní dodržování předpisů.

Časová osa dodržování předpisů

Akt EU o AI vstoupil v platnost dne 1. srpna 2024 po zveřejnění v Úředním věstníku Evropské unie. Nařízení se uplatňuje postupně v různých kategoriích povinností.

Článek 72, jako součást Title IX upravujícího monitorování po uvedení na trh a dohled nad trhem, se vztahuje na poskytovatele vysoce rizikových systémů AI uvedených v přílohy III (obecné vysoce rizikové kategorie, jako je biometrie, zaměstnanost, vzdělávání a přístup k základním službám) od 2. prosince 2027. Vysoce rizikové systémy AI zahrnuté v přílohy I — ty, které jsou bezpečnostními komponenty produktů již regulovaných podle stávajících harmonizačních předpisů Unie — podléhají také plným povinnostem, včetně Článek 72, od 2. srpna 2028 ve většině případů, v souladu s obecným datem použití pro vysoké riziko.

Poskytovatelé by měli vzít na vědomí, že dřívější termíny — únor 2025 pro zakázané praktiky AI a srpen 2025 pro povinnosti modelů AI pro obecné účely — přímo neupravují Článek 72, ale základy monitorovací infrastruktury by měly být položeny výrazně před termínem 2027. Organizacím, které dnes vyvíjejí vysoce rizikové systémy AI, se doporučuje začít navrhovat své plány monitorování po uvedení na trh jako součást procesu přípravy na posouzení shody, spíše než je zpětně doplňovat v okamžiku použití.

Official AI Act Compliance Deadline Calendar

Deadline data last changed · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.

Obligation Applies to Original date New date Status Countdown Legal basis
Prohibited Practices (Art. 5) All providers and deployers active — AI Act Art. 5
GPAI Rules (Chapter 5) GPAI model providers active — AI Act Art. 51-56
AI-Generated Content Marking Providers of generative GPAI systems active — AI Act Art. 50(2)
Regulatory Sandboxes National competent authorities active — AI Act Art. 57
High-risk AI — Annex III (standalone) Providers of standalone Annex III systems deferred — AI Omnibus 2026 Art. 6(2)
High-risk AI — Annex I (embedded) AI embedded in Annex I regulated products deferred — AI Omnibus 2026 Art. 6(1)

⬇ Download JSON · CC BY 4.0

Často kladené otázky

Článek 72 vyžaduje, aby poskytovatelé vysoce rizikových systémů AI aktivně shromažďovali a přezkoumávali data o výkonu svých systémů poté, co byly uvedeny na trh nebo do provozu. Cílem je zajistit, aby systémy po celou dobu své provozní životnosti i nadále splňovaly požadavky, čímž mohou poskytovatelé odhalovat a řešit problémy, které nemusely být zřejmé při předtržním posouzení shody.

Poskytovatelé vysoce rizikových systémů AI definovaní v přílohy III Nařízení (EU) 2024/1689 nebo systémy zahrnuté v přílohy I jsou povinni vypracovat a udržovat plán monitorování po uvedení na trh. Provozovatelé mohou být povinni pomáhat zasíláním relevantních informací poskytovateli podle Článek 72(4).

Plán musí zahrnovat metody a postupy pro aktivní shromažďování a analýzu dat po uvedení na trh, stanovení ukazatelů výkonu a prahových hodnot, identifikaci spouštěčů nápravných opatření a zajištění toho, aby relevantní zjištění byla zpětně zahrnuta do systému řízení kvality. Musí být zdokumentován jako součást technické dokumentace požadované podle Článek 11 a přílohy IV.

Článek 72 funguje ve spojení s články 73 a 74. Když monitorování po uvedení na trh odhalí závažný incident nebo porušení povinností, musí poskytovatelé okamžitě informovat příslušný vnitrostátní orgán dozoru nad trhem. Monitorovací systém slouží jako detekční mechanismus, který spouští povinnosti hlášení stanovené v následujících článcích.

Článek 72 se vztahuje na vysoce rizikové systémy AI zahrnuté v přílohy III od 2. prosince 2027 a na vysoce rizikové systémy AI zahrnuté v přílohy I (bezpečnostní komponenty v regulovaných produktech) od 2. prosince 2027 ve většině případů. Některé kategorie přílohy III, konkrétně ty v oblasti biometrie, kritické infrastruktury a vzdělávání, již regulované dřívějšími odvětvovými pravidly, se řídí datem použití v srpnu 2028.

Stay ahead of AI Act changes

Get compliance alerts when deadlines or obligations change.

No spam. One-click unsubscribe.

Posuňte soulad dál s Akademií AI Act

Bezplatný kurz, zkouška hodnocená na serveru, ověřitelné osvědčení — a pracovní šablony.