Slovník EU AI Act: klíčové definice a pojmy vysvětleny

Oficiální definice z EU AI Act (čl. 3) a běžně používané pojmy v regulaci EU v oblasti AI. Pochopení toho, co zákon rozumí pod pojmy ‚systém AI', ‚poskytovatel', ‚vysoké riziko', ‚podstatná modifikace' a ‚model GPAI', je nezbytné pro soulad. Tento slovník pokrývá všechny základní pojmy s vysvětlením v prostém jazyce.

Základní definice (čl. 3)

EU AI Act obsahuje 65 definovaných pojmů v čl. 3. Nejdůležitější pro účely souladu jsou shrnuty níže.

Systém AI (čl. 3(1))

Systém na bázi strojů, který:

• Funguje s různými úrovněmi autonomie
• Může vykazovat adaptabilitu po nasazení
• Odvozuje z vstupů, jak generovat výstupy (predikce, obsah, doporučení, rozhodnutí), která mohou ovlivňovat fyzická nebo virtuální prostředí

Klíčový dopad: Definice je technologicky neutrální. Nevyžaduje hluboké učení ani neuronové sítě — systém na bázi pravidel s adaptivními složkami se může kvalifikovat. Naopak jednoduchý strom if-then bez schopnosti učení se pravděpodobně nekvalifikuje.

Poskytovatel (čl. 3(3))

Jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo subjekt, který vyvíjí systém AI nebo nechá systém AI vyvinout a uvádí jej na trh nebo do provozu pod svým jménem nebo ochrannou známkou — ať za úplatu nebo bezplatně.

Klíčový dopad: Odpovědnost za vývoj + uvedení na trh = status poskytovatele. Společnost, která zadá vlastní vývoj AI externímu vývojáři, je poskytovatelem, pokud je systém uveden na trh pod značkou společnosti.

Provozovatel (čl. 3(4))

Jakákoli fyzická nebo právnická osoba, orgán veřejné moci, agentura nebo subjekt, který používá systém AI pod svou pravomocí pro profesní účel — s výjimkou případů, kdy je použití osobní, neprofesionální.

Klíčový dopad: Drtivá většina podniků používajících AI zakoupenou od třetích stran jsou provozovatelé. Povinnosti provozovatele jsou méně náročné než povinnosti poskytovatele, ale pro vysoce rizikové systémy jsou stále výrazné.

Oprávněný zástupce (čl. 3(5))

Jakákoli fyzická nebo právnická osoba usazená v Unii, která obdržela písemný mandát od poskytovatele systému AI usazeného mimo Unii k plnění povinností jménem tohoto poskytovatele.

Klíčový dopad: Poskytovatelé mimo EU systémů AI uváděných na trh EU musí jmenovat oprávněného zástupce se sídlem v EU. Tento zástupce může být právně odpovědný za povinnosti poskytovatele podle EU AI Act.

Dovozce (čl. 3(6))

Jakákoli fyzická nebo právnická osoba usazená v Unii, která uvádí na trh EU systém AI nesoucí jméno nebo ochrannou známku fyzické nebo právnické osoby usazené mimo Unii.

Distributor (čl. 3(7))

Jakákoli fyzická nebo právnická osoba v dodavatelském řetězci, jiná než poskytovatel nebo dovozce, která zpřístupňuje systém AI na trhu Unie bez jeho úpravy.

Provozovatel (čl. 3(8))

Souhrnný pojem pokrývající poskytovatele, oprávněné zástupce, dovozce, distributory, provozovatele a jakékoli jiné osoby podléhající povinnostem podle zákona.

Zamýšlený účel (čl. 3(12))

Použití, pro které je systém AI poskytovatelem zamýšlen, včetně konkrétního kontextu a podmínek použití specifikovaných v informacích dodaných poskytovatelem v pokynech k použití, propagačních nebo prodejních materiálech nebo prohlášeních.

Klíčový dopad: Zamýšlený účel určuje, která riziková kategorie platí a které požadavky musí být splněny. Systém zamýšlený pro úvěrové skórování je vysoce rizikový (Příloha III); stejný základní model zamýšlený pro filtrování spamu nemusí být. Poskytovatelé nemohou uniknout klasifikaci vysokého rizika ponecháním zamýšleného účelu vágním — zákon přihlíží ke všem informacím o návrhu a marketingu systému.

Přiměřeně předvídatelné zneužití (čl. 3(13))

Použití systému AI způsobem, který není v souladu s jeho zamýšleným účelem, ale může vyplývat z přiměřeně předvídatelného lidského chování nebo interakce s jinými systémy.

Klíčový dopad: Poskytovatelé musí posuzovat a řešit předvídatelné zneužití ve svých systémech řízení rizik — nejen zamýšlený případ použití. Systém rozpoznávání obličeje zamýšlený pro kontrolu přístupu musí řešit předvídatelné riziko, že by mohl být použit pro sledování v reálném čase.

Bezpečnostní součást (čl. 3(14))

Součást produktu nebo systému AI, která plní bezpečnostní funkci pro daný produkt nebo systém AI, nebo jejíž selhání nebo porucha ohrožuje zdraví a bezpečnost osob nebo majetku.

Klíčový dopad: Systémy AI, které jsou bezpečnostními součástmi produktů pokrytých odvětvovou legislativou Přílohy I, automaticky podléhají požadavkům pro vysoce rizikové systémy, bez ohledu na to, zda AI sama o sobě představuje přímé riziko.

Uvedení na trh (čl. 3(9))

První zpřístupnění systému AI nebo víceúčelového modelu AI na trhu Unie.

Uvedení do provozu (čl. 3(11))

Dodání systému AI pro první použití přímo provozovateli nebo pro vlastní použití na trhu Unie pro jeho zamýšlený účel.

Klíčový dopad: Jak „uvedení na trh" (prodej ostatním), tak „uvedení do provozu" (použití pro sebe) spouštějí povinnosti poskytovatele. Podnik, který buduje systém AI pro interní použití, jej uvádí do provozu a je poskytovatelem podléhajícím všem povinnostem.

Vysoce rizikový systém AI

Není definován v jediné větě — klasifikován odkazem na Přílohu I (bezpečnostní součásti v regulovaných produktech) a Přílohu III (samostatné případy vysoce rizikového použití). Úroveň rizika závisí na zamýšleném účelu a kontextu nasazení, nikoli na základní technologii.

Kategorie vysoce rizikových systémů Přílohy III:

1. Biometrická identifikace a kategorizace
2. Správa kritické infrastruktury
3. Vzdělávání a odborná příprava
4. Zaměstnanost, řízení pracovníků, přístup k samostatné výdělečné činnosti
5. Přístup k základním soukromým službám a veřejným službám a dávkám
6. Vymáhání práva
7. Migrace, azyl, řízení hraniční kontroly
8. Správa spravedlnosti a demokratické procesy

Víceúčelový model umělé inteligence (GPAI) (čl. 3(63))

Model AI, včetně modelu trénovaného na velkém množství dat pomocí samoučení ve velkém měřítku, který vykazuje výraznou obecnost a je schopen kompetentně provádět široký okruh různých úkolů bez ohledu na způsob, jakým je model uveden na trh — který může být používán v různých aplikacích dodavatelského řetězce.

Klíčové rozlišení od systému AI: Model GPAI ještě není systémem AI. Stává se součástí systému AI, když je integrován do produktu nebo aplikace. Zákon ukládá povinnosti poskytovatelům modelů GPAI odděleně od (a navíc k) povinnostem poskytovatelů systémů AI vybudovaných pomocí modelů GPAI.

Model GPAI se systémovým rizikem (čl. 3(65))

Model GPAI označený jako systémové riziko, protože má schopnosti s vysokým dopadem hodnocené podle vhodných technických nástrojů a metodologií nebo kvůli svému skutečnému nebo přiměřeně předvídatelnému dosahu s vysokým dopadem.

Aktuálním ukazatelem jsou kumulativní výpočetní náklady na trénování přesahující 10^25 FLOPs. Komise může akty v přenesené pravomoci stanovit další kritéria.

Závažný incident (čl. 3(49))

Jakýkoli incident nebo porucha systému AI, která přímo nebo nepřímo vede k:

• Úmrtí osoby nebo závažnému poškození zdraví osoby
• Závažnému a nenapravitelnému narušení správy a provozu kritické infrastruktury
• Porušení povinností podle práva Unie určeného k ochraně základních práv
• Závažnému poškození majetku nebo životního prostředí

Podstatná modifikace (čl. 3(23))

Změna systému AI po uvedení na trh nebo do provozu, která není předpokládána nebo plánována v počátečním posouzení shody a která ovlivňuje soulad systému AI s požadavky zákona nebo má za následek změnu zamýšleného účelu.

Posouzení shody (čl. 3(20))

Proces ověřování, zda vysoce rizikový systém AI splňuje požadavky stanovené v Kapitole III, Oddíle 2 zákona. Posouzení shody může být provedeno poskytovatelem (vlastní posouzení) nebo oznámeným místem (posouzení třetí stranou), v závislosti na typu systému.

Oznámené místo (čl. 3(22))

Místo pro posouzení shody jmenované členským státem k provádění posouzení shody třetí stranou pro vysoce rizikové systémy AI. Oznámená místa jsou ekvivalentem AI Act k orgánům pro označení CE používaným v tradiční regulaci výrobků.

Orgán dozoru nad trhem (čl. 3(26))

Vnitrostátní orgán zodpovědný za provádění dozoru nad trhem podle AI Act. Členské státy musí jmenovat alespoň jeden orgán dozoru nad trhem na členský stát.

Označení CE (čl. 3(30))

Označení, kterým poskytovatel uvádí, že vysoce rizikový systém AI je v souladu s požadavky AI Act a další příslušnou legislativou Unie poskytující pro jeho připevnění.

Odvětvově specifické pojmy

Biometrické údaje (převzato z GDPR)

Osobní údaje vyplývající z konkrétního technického zpracování týkajícího se fyzických, fyziologických nebo behaviorálních charakteristik fyzické osoby, které umožňují nebo potvrzují jedinečnou identifikaci dané fyzické osoby.

Systém vzdálené biometrické identifikace (čl. 3(40))

Systém AI zamýšlený pro identifikaci fyzických osob na dálku porovnáváním biometrických údajů osoby s biometrickými údaji obsaženými v referenční databázi, bez předchozí znalosti uživatele systému AI, zda osoba bude přítomna a může být identifikována.

Klíčový dopad: Vzdálená biometrická identifikace v reálném čase na veřejně přístupných místech je zakázána pro účely vymáhání práva s úzkými výjimkami (čl. 5).

Základní model

Není definován v AI Act — zákon místo toho používá „model GPAI". Základní model je běžně používaný průmyslový pojem pro rozsáhlé předtrénované modely. Pro regulační účely používejte „model GPAI".

Doladění

Není definováno v zákoně. Přizpůsobení modelu GPAI konkrétní doméně nebo úkolu prostřednictvím dalšího trénování. Pokud doladění má za výsledek podstatně odlišný model uvedený na trh, může se dolaďovatel stát poskytovatelem tohoto nového modelu.

Procesní pojmy

Technická dokumentace (Příloha IV)

Strukturovaný dokumentační balíček, který poskytovatelé vysoce rizikových systémů AI musí připravit před uvedením na trh a udržovat po celý životní cyklus systému. Zahrnuje popis systému, logiku návrhu, informace o trénovacích datech, výsledky testování, dokumentaci řízení rizik a plán monitorování po uvedení na trh.

EU prohlášení o shodě (čl. 3(37))

Formální dokument podepsaný poskytovatelem prohlašující, že vysoce rizikový systém AI splňuje všechny příslušné požadavky zákona. Je právním základem pro připevnění označení CE.

Pokyny k použití (čl. 3(15))

Informace poskytované poskytovatelem k informování provozovatele o zamýšleném účelu systému AI, výkonu, technických specifikacích a podmínkách použití — včetně jakýchkoli omezení a předvídatelných rizik.

Plán monitorování po uvedení na trh (čl. 3(32))

Zdokumentovaný plán zavedený poskytovatelem pro shromažďování a přezkoumávání zkušeností získaných z provozu vysoce rizikového systému AI po jeho uvedení na trh nebo do provozu.

Posouzení dopadu na základní práva (čl. 27)

Posouzení, které musí provozovatelé ve veřejném sektoru (a určití soukromí provozovatelé) provést před nasazením vysoce rizikového systému AI, hodnotící dopad na základní práva dotčených osob.