Article 74 — Dohled nad trhem a kontrola systémů AI na území Unie (Akt EU o AI)

Article 74 Nařízení (EU) 2024/1689 — Dohled nad trhem a kontrola systémů AI na území Unie. Oficiální text, praktický výklad, klíčové povinnosti a důsledky pro dodržování předpisů.

Shrnutí oficiálního znění

Article 74 Nařízení (EU) 2024/1689 zavádí rámec pro dohled nad trhem a kontrolu systémů AI na území EU, který tvoří vymáhací páteř Title IX. Vyžaduje, aby členské státy určily orgány dozoru nad trhem v souladu s Nařízením (EU) 2019/1020 o dohledu nad trhem a shodě výrobků, které se mutatis mutandis použije na systémy AI zahrnuté Aktem EU o AI, s výjimkou případů, kdy Akt o AI stanoví zvláštní odchylky.

Článek svěřuje určeným vnitrostátním orgánům pravomoc vyšetřovat systémy AI již uvedené na trh nebo do provozu, ať jsou dodávány komerčně nebo jinak. Orgány jsou oprávněny přistupovat k technické dokumentaci, trénovacím datovým sadám, zdrojovému kódu, je-li to nezbytné a přiměřené, a jakýmkoli jiným informacím potřebným k posouzení shody. Mohou nařídit provozovatelům — poskytovatelům, provozovatelům systémů, dovozcům a distributorům — přijmout nápravná opatření, včetně omezení nebo zákazu používání, stažení systému z trhu nebo organizování jeho odvolání.

Pokud systém AI představuje závažné riziko, musí vnitrostátní orgány informovat Komisi a všechny ostatní členské státy prostřednictvím zavedených mechanismů rychlého varování. Article 74 rovněž řeší situaci, kdy jsou systémy AI zabudovány do produktů regulovaných jiným harmonizačním zákonodárstvím Unie, přičemž objasňuje, že příslušný odvětvový orgán dozoru nad trhem si zachovává pravomoc, přičemž uplatňuje požadavky Aktu o AI v koordinaci s obecným rámcem dohledu. Pro modely AI pro obecné účely vykonává Evropský úřad pro AI rovnocenné dozorné funkce na úrovni Unie, čímž zajišťuje koherentní dohled nad komponentami AI fungujícími přes vnitrostátní hranice a kategorie produktů.

Co to znamená v praxi

Pro organizace, které vyvíjejí, dovážejí, distribuují nebo nasazují systémy AI v EU, mění Article 74 proces posouzení shody z jednorázové brány na průběžnou povinnost dodržování předpisů. Dosažení označení CE nebo dokončení interního posouzení shody neimunizuje systém před kontrolou po uvedení na trh. Orgány mohou zahájit vyšetřování kdykoli během provozního života systému, spuštěné stížnostmi, incidenty hlášenými prostřednictvím mechanismu oznamování závažných incidentů podle Article 73 nebo proaktivními kampaněmi dohledu.

Poskytovatelé musí zajistit, aby technická dokumentace zůstala aktuální, přístupná a dostatečně podrobná pro podporu auditu orgánem. Pokud je systém aktualizován — prostřednictvím přetrénování modelu, doladění nebo výrazných změn zamýšleného účelu — musí dokumentace tyto změny odrážet a tam, kde je to vyžadováno, může být potřeba nové posouzení shody.

Provozovatelé vysoce rizikových systémů AI by měli očekávat, že je orgány mohou kontaktovat přímo, aby pochopily, jak je systém v praxi používán, zejména tam, kde se nasazený kontext liší od původně zamýšleného případu použití poskytovatele. Provozovatelé musí plně spolupracovat a měli by vést provozní protokoly a záznamy o lidském dohledu jako důkaz vyhovujícího používání.

Dovozci a distributoři nesou odpovědnost za ověření, že produkty, s nimiž nakládají, nesou platnou dokumentaci a označení před uvedením na trh EU, protože Article 74 může vést k nápravným příkazům namířeným na jakéhokoli aktéra v dodavatelském řetězci.

V praxi by organizace měly zavést interní postupy pro reagování na dotazy dohledu nad trhem, jmenovat určený kontakt pro dodržování předpisů a provádět pravidelné interní přezkumy, aby se zajistilo, že skutečný výkon systému nadále odpovídá jeho základní úrovni posouzení shody.

Klíčové povinnosti

• Určení kontaktních míst pro spolupráci: Poskytovatelé, provozovatelé systémů, dovozci a distributoři musí identifikovat interní kontakty schopné promptně jednat s vnitrostátními orgány dozoru nad trhem a poskytovat přístup k požadované dokumentaci.
• Udržování přístupné technické dokumentace: Veškerá dokumentace požadovaná podle Article 11 a Annex IV musí zůstat aktuální a být zpřístupněna orgánům dozoru nad trhem na vyžádání, včetně systémů již v nasazení.
• Spolupráce při vyšetřováních: Provozovatelé musí odpovídat na úřední dotazy, poskytnout přístup k prostorám a systémům na vyžádání a nesmí bránit ani zdržovat dozorné činnosti — nespolupráce může sama o sobě představovat porušení podléhající sankcím podle Article 99.
• Hlášení závažných incidentů: Pokud se poskytovatelé nebo provozovatelé systémů dozví o závažném incidentu definovaném podle Article 3, musí informovat příslušný orgán dozoru nad trhem v souladu s Article 73, což zase spustí koordinovanou akci v rámci Article 74.
• Provádění nápravných opatření na příkaz: Po obdržení příkazu od orgánu dozoru nad trhem — ať už k úpravě, omezení, stažení nebo odvolání systému AI — musí provozovatelé jednat v určené lhůtě a informovat orgán o přijatých krocích.
• Dodržování přeshraničních oznamovacích povinností: Pokud se zjistí, že systém představuje závažné riziko a je předmětem vnitrostátního vymáhacího opatření, orgán informuje Komisi a ostatní členské státy; dotčení provozovatelé mohou být povinni rozšířit nápravná opatření souběžně do více jurisdikcí.

Vztah k ostatním článkům

Article 74 funguje jako vrstva vymáhání, která dává praktický účinek hmotněprávním požadavkům definovaným jinde v nařízení. Přímo čerpá z Article 73 (monitorování po uvedení na trh a hlášení závažných incidentů), který generuje data a oznámení spouštějící mnoho vyšetřování dohledu. Je neodmyslitelně spojen s Articles 11 a 12 (technická dokumentace a vedení záznamů) a Articles 16 a 26 (povinnosti poskytovatelů a provozovatelů), protože tyto definují, co jsou orgány oprávněny zkoumat.

Článek se propojuje s Article 9 (systémy řízení rizik) a Article 72 (plány monitorování po uvedení na trh), protože data o reálném výkonu shromážděná podle těchto ustanovení se stávají důkazem v jakémkoli přezkumu dohledu. Pro scénáře závažného rizika upravují Articles 79 až 83 konkrétní nápravná a ochranná opatření, která mohou orgány dozoru nad trhem uplatnit po vyšetřování zahájeném podle Article 74. Článek se rovněž horizontálně propojuje s Nařízením (EU) 2019/1020, obecným rámcem EU pro dohled nad trhem, jehož postupy a oznamovací mechanismy přebírá odkazem.

Časová osa dodržování předpisů

Akt EU o AI vstoupil v platnost dne 1. srpna 2024 po zveřejnění v Úředním věstníku. Uplatňování nařízení probíhá postupně:

• 2. února 2025: Zákazy nepřijatelně rizikových praktik AI (Article 5) se staly použitelnými. Orgány dozoru nad trhem dostaly pravomoc vyšetřovat a vymáhat právo vůči zakázaným systémům od tohoto data.
• 2. srpna 2025: Ustanovení o modelech AI pro obecné účely (Title III, Chapter V) a s nimi spojený rámec správy, včetně dozorné role Evropského úřadu pro AI, se staly použitelnými. Dohled nad trhem modelů GPAI a systémů se systémovým rizikem spadá pod tento režim.
• 2. prosince 2026: Pravidla použitelná na vysoce rizikové systémy AI uvedené v Annex III (používané veřejnými orgány) a s nimi spojené povinnosti monitorování po uvedení na trh a dohledu podle Title IX, včetně plného rámce Article 74 pro tyto systémy, se stávají použitelnými.
• 2. srpna 2027: Zbývající vysoce rizikové systémy AI v Annex III a systémy AI regulované podle harmonizačního zákonodárství Unie uvedeného v Annex I podléhají úplnému režimu shody a dohledu.

Organizace by měly považovat postupné termíny za aktivační body — infrastruktura dohledu (dokumentace, hlášení incidentů, postupy spolupráce) by měla být zavedena před příslušným datem, nikoli až po příchodu prvního dotazu.