Úřad EU pro AI, zřízený v rámci Evropské komise, je primárním orgánem EU dohlížejícím na modely GPAI a koordinujícím vymáhání AI Act. Tato stránka vysvětluje jeho mandát, vyšetřovací pravomoci, sankční pravomoci a způsob interakce s vnitrostátními orgány dozoru nad trhem.
Co je Úřad EU pro AI?
Úřad EU pro AI (formálně: Úřad pro umělou inteligenci) je orgánem EU na úrovni EU zřízeným v rámci Evropské komise pro dohled nad implementací a vymáháním EU AI Act — se specifickým mandátem pokrývajícím víceúčelové modely AI (GPAI).
Na rozdíl od tradičních agentur EU (jako jsou ENISA nebo EBA) není Úřad pro AI nezávislým regulačním orgánem. Je strukturován jako správní úřad v rámci Generálního ředitelství pro komunikační sítě, obsah a technologie (GŘ CONNECT). Tato struktura mu dává přímý přístup ke zdrojům a tvorbě agendy Komise, ale také znamená, že jeho rozhodnutí o vymáhání jsou technicky rozhodnutí Komise podléhající soudnímu přezkumu EU.
Úřad pro AI byl vytvořen brzy — formálně zřízen v únoru 2024, několik měsíců před zveřejněním AI Act v Úředním věstníku (červenec 2024) a vstupem v platnost (srpen 2024). Toto včasné zřízení bylo záměrné: regulace GPAI je naléhavá vzhledem k tempu vývoje základních modelů a Komise chtěla infrastrukturu vymáhání připravenou před tím, než se spustí nejnaléhavější povinnosti.
Právní základ a mandát
Právním základem Úřadu EU pro AI je Kapitola VIII EU AI Act (čl. 64–68), doplněná Rozhodnutím Komise ze dne 24. ledna 2024, které jej formálně zřídilo.
Jeho základní mandát pokrývá tři oblasti:
1. Dohled nad modely GPAI (přímé vymáhání)
Úřad pro AI má výlučnou kompetenci na úrovni EU pro dohled nad poskytovateli víceúčelových modelů AI. To zahrnuje:
- Monitorování souladu s povinnostmi Kapitoly V (transparentnost, technická dokumentace, soulad s autorským právem, hlášení energetické účinnosti pro modely se systémovým rizikem)
- Vyžadování a přezkoumávání technické dokumentace od poskytovatelů GPAI
- Provádění hodnocení modelů GPAI — včetně adversariálního testování a red-teamingu — za účelem posouzení schopností a systémových rizik
- Vydávání výstrah, když model GPAI představuje systémové riziko
- Ukládání pokut a nápravných opatření
2. Přeshraniční koordinace (vysoce rizikové systémy AI)
Pro vysoce rizikové systémy AI je vymáhání primárně vnitrostátní. Úřad pro AI však hraje klíčovou koordinační roli:
- Usnadňování výměny informací mezi vnitrostátními orgány dozoru nad trhem (MSA)
- Řešení případů, kdy nevyhovující vysoce rizikový systém AI cirkuluje v několika členských státech
- Poskytování technické odbornosti a poradenství vnitrostátním orgánům
- Žádosti o společná vyšetřování, kde je přeshraniční dopad výrazný
3. Vědecká a technická podpora
Úřad pro AI provozuje Vědeckou poradní radu složenou z nezávislých odborníků na AI (čl. 68). Tato rada poskytuje:
- Technická hodnocení schopností a rizik modelů GPAI
- Poradenství k klasifikačním prahům (např. výpočetní práh pro modely GPAI se systémovým rizikem)
- Vstup do vývoje norem, kodexů praxe a metodologií hodnocení
Vyšetřovací a sankční pravomoci
Úřad EU pro AI má výrazné vyšetřovací pravomoci vůči poskytovatelům modelů GPAI, včetně:
Žádosti o informace
Úřad pro AI může od poskytovatele GPAI požadovat jakékoli informace, které považuje za nezbytné pro své dozorové úkoly (čl. 91). Poskytovatelé musí odpovědět ve lhůtě stanovené Úřadem. Neposkytnutí informací nebo poskytnutí nepravdivých nebo zavádějících informací je samo o sobě přestupkem, za který lze uložit sankce.
Hodnocení a testování
Úřad pro AI může požádat poskytovatele GPAI, aby předložil svůj model k hodnocení, včetně:
- Hodnocení schopností (identifikace nebezpečných schopností, jako je pomoc CBRN, usnadnění kybernetických útoků nebo manipulace ve velkém měřítku)
- Hodnocení bezpečnosti a sladění
- Adversariální testování / red-teaming
Úřad může provádět hodnocení sám nebo je zadat kvalifikovaným třetím stranám nebo vnitrostátním orgánům. AI Act vyžaduje, aby poskytovatelé GPAI s modely systémového rizika poskytli přístup ke svým modelům pro účely hodnocení.
Kontroly na místě
Pro modely GPAI se systémovým rizikem může Úřad pro AI provádět kontroly na místě v zařízeních poskytovatele za pomoci vnitrostátních orgánů v příslušném členském státě. Předchozí oznámení je obecně vyžadováno, pokud Úřad nemá konkrétní důvody se domnívat, že by předchozí oznámení ohrozilo vyšetřování.
Předběžná opatření
Kde existuje naléhavé riziko, může Úřad pro AI uložit prozatímní předběžná opatření, aby zabránil závažné a nenapravitelné újmě. Tato opatření musí být přiměřená a podléhají přezkumu.
Pokuty
Pokuty jsou strukturovány ve třech úrovních:
| Porušení | Maximální pokuta |
|---|---|
| Nesoulad s povinnostmi GPAI (Kapitola V) | 15 mil. EUR nebo 3 % celosvětového ročního obratu |
| Poskytnutí nesprávných/neúplných informací | 7,5 mil. EUR nebo 1,5 % celosvětového ročního obratu |
| Nesoulad s povinnostmi GPAI se systémovým rizikem | 30 mil. EUR nebo 6 % celosvětového ročního obratu |
| Obecná porušení platná pro všechny subjekty | 35 mil. EUR nebo 7,5 % (zakázané praktiky) |
Pro malé a střední podniky a startupy platí nižší z pevné částky nebo procentního podílu obratu. Úřad pro AI musí zohledňovat povahu, závažnost, trvání a důsledky porušení, jakož i úroveň spolupráce prokázanou poskytovatelem.
Kodex praxe GPAI
Klíčovým nástrojem Úřadu pro AI je Kodex praxe GPAI — technický dobrovolný nástroj vyvinutý prostřednictvím procesu s více zainteresovanými stranami, který překládá povinnosti Kapitoly V zákona do konkrétních implementačních pokynů.
Proces Kodexu praxe začal v říjnu 2024, přičemž Úřad pro AI svolal pracovní skupiny poskytovatelů GPAI, akademických výzkumníků, organizací občanské společnosti a vnitrostátních orgánů. Pokrývá:
- Povinnosti transparentnosti pro poskytovatele GPAI (přehledy trénovacích dat, dokumentace schopností)
- Postupy souladu s autorským právem
- Metodologie hodnocení modelů pro posouzení systémového rizika
- Bezpečnostní a bezpečnostní standardy pro modely GPAI se systémovým rizikem
Soulad s Kodexem praxe vytváří domněnku shody s odpovídajícími povinnostmi Kapitoly V. To je výrazná výhoda: poskytovatelé, kteří se řídí Kodexem, se na něj mohou spoléhat v řízeních o vymáhání, aniž by museli prokazovat soulad od základu.
Rada pro AI
Rada pro AI (čl. 65) funguje souběžně s Úřadem pro AI. Je složena z:
- Jednoho zástupce každého členského státu EU (vnitrostátní dozorové orgány)
- Zástupce Evropského inspektora ochrany údajů (EDPS)
- Zástupce Komise (nevotující předseda)
Funkce Rady pro AI zahrnují:
- Vydávání stanovisek a doporučení Úřadu pro AI a Komisi
- Koordinaci vnitrostátních dozorových přístupů
- Poradenství k klasifikaci systémů AI a modelů
- Přispívání k vývoji norem a metodologií hodnocení
Rada je poradní a koordinační orgán — nemá přímou pravomoc vymáhání. Její stanoviska však mají výraznou váhu a Úřad pro AI je očekáván, že je zohlední.
Vnitrostátní orgány dozoru nad trhem
Pro vysoce rizikové systémy AI (nikoli modely GPAI) jsou vnitrostátní orgány dozoru nad trhem (MSA) primárními orgány vymáhání. Každý členský stát musí jmenovat alespoň jeden MSA zodpovědný za vymáhání AI Act na svém území.
MSA mají pravomoc:
- Provádět činnosti dozoru nad trhem
- Žádat technickou dokumentaci a protokoly přístupu od poskytovatelů a provozovatelů
- Nařizovat nápravná opatření (stažení, odvolání, omezení přístupu na trh)
- Ukládat pokuty podle vnitrostátní implementační legislativy
Úřad pro AI koordinuje s MSA prostřednictvím Rady pro AI a prostřednictvím bilaterální spolupráce, ale nepřikazuje jim. Členské státy jsou odpovědné za financování a posílení svých MSA.
Praktické dopady pro poskytovatele GPAI
Pokud vyvíjíte nebo nasazujete víceúčelový model AI dostupný na trhu EU, Úřad EU pro AI je vaším primárním regulačním protějškem. Prakticky to znamená:
-
Proaktivně registrujte a dokumentujte — Úřad pro AI očekává, že poskytovatelé budou mít technickou dokumentaci připravenou před tím, než budou požádáni. Shrabování dokumentace po dotazu není silná pozice souladu.
-
Zapojte se do Kodexu praxe — účast v procesu Kodexu praxe GPAI a přijetí jeho ustanovení vytváří domněnku shody a prokazuje dobrou víru Úřadu pro AI.
-
Znáte svůj status systémového rizika — aktuálním prahem pro klasifikaci systémového rizika jsou výpočetní náklady na trénování přesahující 10^25 FLOPs. Pokud je váš model blízko nebo nad tímto prahem, zapojte se s Úřadem pro AI proaktivně ohledně povinností hodnocení.
-
Připravte se na hodnocení — pokud vyvíjíte model GPAI se systémovým rizikem, musíte být schopni poskytnout přístup k modelu pro hodnocení. To vyžaduje technickou infrastrukturu pro řízený přístup přes API, spolupráci při adversariálním testování a dokumentaci výsledků red-teamingu.
-
Sledujte výstrahy a stanoviska — Úřad pro AI zveřejňuje pokyny, výstrahy a stanoviska na svých webových stránkách. Nejde o závazné právní předpisy, ale signalizují priority vymáhání a interpretační pozice, které budou formovat vyšetřování.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Úřad EU pro AI je úřad v rámci Evropské komise, zřízený podle čl. 64 EU AI Act. Není to nezávislý regulační orgán — funguje pod pravomocí Komise. Je řízen ředitelem a má personál přibližně 140 úředníků. Byl formálně zřízen v únoru 2024, před vstupem AI Act v platnost, a zahájil plný provoz v srpnu 2024.
Úřad EU pro AI má přímý dohled a pravomoc vymáhání vůči poskytovatelům modelů GPAI (víceúčelových modelů AI, jako jsou velké jazykové modely). Pro vysoce rizikové systémy AI a jiné systémy AI pokryté zákonem spočívá primární odpovědnost za vymáhání na vnitrostátních orgánech dozoru nad trhem, nikoli na Úřadu pro AI. Úřad pro AI koordinuje s vnitrostátními orgány a řeší systémové přeshraniční problémy.
Úřad EU pro AI může ukládat pokuty poskytovatelům modelů GPAI za: nesoulad s povinnostmi Kapitoly V (až 15 milionů EUR nebo 3 % celosvětového ročního obratu, podle toho, co je vyšší); poskytování nesprávných nebo zavádějících informací Úřadu (až 7,5 milionu EUR nebo 1,5 % celosvětového ročního obratu); a pro modely GPAI se systémovým rizikem mohou další povinnosti vyvolat pokuty až do výše 30 milionů EUR nebo 6 % celosvětového ročního obratu.
Rada pro AI (čl. 65) je poradní orgán na vysoké úrovni složený ze zástupců vnitrostátních dozorových orgánů ze všech členských států EU. Radí Komisi a Úřadu pro AI, koordinuje vnitrostátní dozorové přístupy a vydává stanoviska a doporučení. Úřad pro AI implementuje; Rada radí a koordinuje.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.