Článek 51 nařízení (EU) 2024/1689 — Klasifikace modelů umělé inteligence pro obecné použití jako modelů se systémovým rizikem. Oficiální text, praktický výklad, klíčové povinnosti a důsledky pro dodržování předpisů.
Shrnutí oficiálního textu
Článek 51 nařízení (EU) 2024/1689 (Akt EU o umělé inteligenci) stanovuje mechanismus klasifikace modelů umělé inteligence pro obecné použití (GPAI) jako modelů se systémovým rizikem. Nachází se v Hlavě V, která vytváří zvláštní regulační vrstvu pro modely GPAI odlišnou od rámce pro vysoce rizikové systémy AI podle Hlavy III.
Podle článku 51 odst. 1 je model GPAI klasifikován jako představující systémové riziko, pokud splňuje jednu ze dvou podmínek. Za prvé, disponuje vysoce výkonnými schopnostmi hodnocenými na základě vhodných technických nástrojů a metodologií, včetně ukazatelů a referenčních hodnot — přičemž se předpokládá (vyvratitelně), že každý model trénovaný s celkovým výpočetním výkonem přesahujícím 10^25 FLOP do této kategorie spadá. Za druhé, je označen Komisí podle článku 51 odst. 2 na základě jiných kritérií, bez ohledu na to, zda je výpočetní práh splněn.
Článek 51 odst. 2 uděluje Komisi pravomoc aktualizovat výpočetní práh prostřednictvím aktů v přenesené pravomoci s tím, jak se technologický vývoj posouvá, čímž se zajistí, že rámec zůstane přizpůsoben tržní realitě. Poskytovatelé, kteří se domnívají, že jejich model — navzdory splnění prahové hodnoty — systémové riziko nepředstavuje, mohou Komisi o tom informovat a poskytnout podpůrné důkazy. Komise poté přijme konečné rozhodnutí. Klasifikace podle článku 51 spouští dodatečný soubor povinností obsažených v článku 55, který představuje nejnáročnější úroveň povinností v rámci GPAI.
Co to znamená v praxi
Článek 51 se přímo dotýká poskytovatelů přelomových modelů GPAI — především velkých laboratoří v oblasti AI a technologických společností, které vyvíjejí a uvádějí na trh základní modely nebo velké jazykové modely trénované ve velkém měřítku. Každý poskytovatel, jehož model dosahuje nebo překračuje výpočetní práh pro trénování 10^25 FLOP, musí s tímto modelem zacházet jako s modelem, který pravděpodobně nese systémové riziko, a začít se připravovat na dodržování povinností podle článku 55 — pokud tuto domněnku úspěšně nevyvrátí u Komise.
Konkrétně by měl poskytovatel provést audit své tréninkové infrastruktury a dokumentace, aby zjistil, zda byl výpočetní práh překročen. To vyžaduje vedení přesných záznamů o tréninkových bězích, včetně celkových FLOP. Pokud je nový model ve vývoji a očekává se, že se přiblíží prahové hodnotě, měli by poskytovatelé zahájit plánování souladu před uvedením na trh, nikoli po něm, protože povinnosti vznikají v okamžiku uvedení modelu na trh nebo jeho zpřístupnění pro používání.
Pro poskytovatele, jejichž modely jsou Komisí označeny na základě kvalitativních kritérií — například kvůli velmi širokému rozšíření na trhu EU, schopnostem autonomního rozhodování nebo multimodálnímu dosahu — se spuštění neuplatní automaticky stejným způsobem, ale označení má identické právní důsledky. Poskytovatelé by proto měli sledovat veřejný rejstřík modelů se systémovým rizikem Úřadu pro umělou inteligenci a pokyny Komise ke kritériím, která uplatňuje podle článku 51 odst. 2.
Navazující provozovatelé a podniky spoléhající se na modely GPAI prostřednictvím přístupu přes API by si rovněž měli být vědomi: pokud je základní model, který používají, klasifikován podle článku 51, mohou čelit dalším smluvním požadavkům na zveřejnění informací ze strany poskytovatele a měli by zohlednit status systémového rizika ve svých vlastních procesech náležité péče.
Klíčové povinnosti
- Sledování výpočetní hranice: Poskytovatelé musí sledovat a dokumentovat celkový výpočetní výkon použitý při trénování svých modelů GPAI, aby zjistili, zda je dosaženo hranice 10^25 FLOP, která spouští vyvratitelnou domněnku systémového rizika podle článku 51 odst. 1 písm. a).
- Proaktivní oznámení: Poskytovatelé, kteří se domnívají, že jejich model navzdory splnění prahové hodnoty systémové riziko nepředstavuje, musí Komisi proaktivně informovat s podpůrnými důkazy, namísto čekání na donucovací opatření.
- Soulad s označením Komise: Pokud Komise označí model jako představující systémové riziko podle článku 51 odst. 2 — ať již z důvodu výpočetního výkonu nebo jiných kritérií — musí poskytovatel toto označení respektovat a plnit povinnosti, které z něj vyplývají.
- Sledování aktualizací prahové hodnoty: Poskytovatelé musí sledovat změny výpočetní hranice prováděné Komisí prostřednictvím aktů v přenesené pravomoci podle článku 51 odst. 2, protože modely, které v současnosti nespadají do působnosti, ji mohou splnit po úpravě prahové hodnoty.
- Připravenost vedení záznamů: Poskytovatelé musí udržovat technickou dokumentaci dostatečnou k prokázání toho, zda jsou nebo nejsou splněny prahové hodnoty klasifikace, a to za účelem vlastního posouzení i případného přezkumu Komisí.
- Komunikace s navazujícími poskytovateli: Poskytovatelé klasifikovaných modelů GPAI se systémovým rizikem musí zajistit, aby navazující poskytovatelé a provozovatelé přistupující k modelu prostřednictvím API nebo jiných rozhraní byli informováni o klasifikačním statusu modelu, jak vyžadují povinnosti transparentnosti podle článku 53.
Vztah k dalším článkům
Článek 51 funguje jako vstupní ustanovení pro nejnáročnější úroveň rámce GPAI. Musí být čten společně s článkem 52, který podrobněji stanoví postup klasifikace a pravomoci Komise k označování, a s článkem 55, který uvádí věcné povinnosti — adversariální testování, hlášení incidentů Úřadu pro umělou inteligenci, opatření kybernetické bezpečnosti a podávání zpráv o energetické účinnosti — jež se uplatňují po klasifikaci.
Článek 53 stanovuje základní povinnosti platné pro všechny poskytovatele modelů GPAI bez ohledu na klasifikaci systémového rizika, včetně technické dokumentace, dodržování autorského práva a zveřejňování souhrnů tréninkových dat. Článek 51 na tento základ navazuje tím, že identifikuje, kteří poskytovatelé čelí nadstandardnímu režimu podle článku 55.
Článek 4 uděluje Komisi pravomoc vydávat akty v přenesené pravomoci k úpravě technických podrobností, včetně výpočetní hranice v článku 51. Body odůvodnění 110 až 114 nařízení poskytují výkladové pokyny k tomu, proč je klasifikace systémového rizika oprávněná pro modely s vysokým výpočetním výkonem a jak Komise hodlá uplatňovat kritéria kvalitativního označení podle článku 51 odst. 2. Úřad pro umělou inteligenci zřízený podle článku 64 hraje ústřední roli při sledování dodržování klasifikačního rámce podle článku 51.
Časový harmonogram souladu
Akt EU o umělé inteligenci vstoupil v platnost dne 1. srpna 2024, dvacet dní po jeho zveřejnění v Úředním věstníku Evropské unie. Akt se uplatňuje v etapách:
- Únor 2025: Zákazy nepřijatelných praktik umělé inteligence (článek 5) se staly použitelnými.
- Srpen 2025: Rámec GPAI podle Hlavy V, včetně článku 51, se stal použitelným. Poskytovatelé modelů GPAI se systémovým rizikem byli povinni dodržovat klasifikační postupy a povinnosti podle článku 55 od tohoto data. Toto je nejpříměji relevantní lhůta pro článek 51.
- Prosinec 2026: Povinnosti pro vysoce rizikové systémy AI uvedené v Annex I (systémy bezpečnostních komponent regulované podle stávajícího práva Unie) se použijí.
- Srpen 2027: Plné uplatňování povinností pro vysoce rizikové systémy AI uvedené v Annex III.
Pokud jde o článek 51, poskytovatelé velkých modelů GPAI museli od srpna 2025 posoudit svůj výpočetní výkon pro trénování a určit, zda byla splněna prahová hodnota systémového rizika. Úřad pro umělou inteligenci začal vydávat pokyny a kodexy praxe v době před tímto datem, aby poskytovatelům pomohl při takovém posouzení.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
U modelu umělé inteligence pro obecné použití se předpokládá, že představuje systémové riziko, pokud celkové množství výpočetních operací použitých při jeho trénování přesáhne 10^25 operací s plovoucí desetinnou čárkou (FLOP). Toto je primární kvantitativní práh stanovený článkem 51 odst. 1 písm. a). Komise může rovněž označit modely za modely se systémovým rizikem na základě jiných kritérií, jako je počet uživatelů, míra autonomie nebo dosah na vnitřním trhu.
Ano. Pokud se poskytovatel domnívá, že jeho model nesplňuje tato kritéria — včetně případů, kdy se domnívá, že navzdory překročení výpočetní hranice jeho model systémové riziko nepředstavuje — může Komisi oznámit tuto skutečnost a požádat o přehodnocení. Komise může rovněž modely označit z vlastního podnětu nebo na základě odůvodněné žádosti Úřadu pro umělou inteligenci. Tento postup je navržen tak, aby umožnil dialog před tím, než se formální označení stane závazným.
Po klasifikaci se na poskytovatele vztahují dodatečné povinnosti stanovené v článku 55, které zahrnují adversariální testování (red-teaming), hlášení incidentů Úřadu pro umělou inteligenci, ochranu kybernetické bezpečnosti a podávání zpráv o energetické účinnosti. Tyto povinnosti přistupují ke základním požadavkům na transparentnost a dodržování autorských práv, které se vztahují na všechny poskytovatele modelů umělé inteligence pro obecné použití.
Domněnka založená na výpočetní kapacitě a rámec systémového rizika se v zásadě mohou vztahovat na jakýkoli model GPAI, včetně open-source modelů. Akt EU o AI však stanovuje určité úlevy pro poskytovatele open-source modelů GPAI podle článku 53 odst. 2, pokud jsou splněny specifické podmínky. Poskytovatelé open-source modelů klasifikovaných jako modely se systémovým rizikem zůstávají vázáni povinnostmi podle článku 55.
Evropská komise má pravomoc označovat modely jako představující systémové riziko — buď proto, že překračují výpočetní hranici pro trénování 10^25 FLOP (čímž vzniká vyvratitelná domněnka), nebo na základě kvalitativního posouzení. Úřad pro umělou inteligenci zřízený v rámci Komise hraje ústřední dozorovou a procesní roli v tomto procesu.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.