Slovník nariadenia EÚ o AI: Kľúčové definície a pojmy

Oficiálne definície z nariadenia EÚ o AI (čl. 3) a bežne používané pojmy v regulácii AI EÚ. Pochopenie toho, čo nariadenie označuje ako 'systém AI', 'poskytovateľ', 'vysokorizikový', 'podstatná modifikácia' a 'model GPAI', je nevyhnutné pre súlad. Tento slovník pokrýva všetky základné pojmy s vysvetleniami v bežnom jazyku.

Základné definície (čl. 3)

Nariadenie EÚ o AI obsahuje 65 definovaných pojmov v čl. 3. Najdôležitejšie na účely súladu sú zhrnuté nižšie.

Systém AI (čl. 3 ods. 1)

Strojový systém, ktorý:

• Pôsobí s rôznymi úrovňami autonómie
• Môže vykazovať adaptabilitu po nasadení
• Odvodzuje z vstupov, ako generovať výstupy (predpovede, obsah, odporúčania, rozhodnutia), ktoré môžu ovplyvňovať fyzické alebo virtuálne prostredia

Kľúčový dôsledok: Definícia je technologicky neutrálna. Nevyžaduje hlboké učenie ani neurónové siete — systém na báze pravidiel s adaptívnymi komponentmi sa môže kvalifikovať. Naopak, jednoduchý strom if-then bez schopnosti učenia sa pravdepodobne nekvalifikuje.

Poskytovateľ (čl. 3 ods. 3)

Akákoľvek fyzická alebo právnická osoba, verejný orgán, agentúra alebo iný subjekt, ktorý vyvíja systém AI alebo nechá systém AI vyvinúť a umiestňuje ho na trh alebo uvádza do prevádzky pod vlastným názvom alebo ochrannou známkou — bez ohľadu na to, či za odplatu alebo bezplatne.

Kľúčový dôsledok: Zodpovednosť za vývoj + umiestnenie na trh = status poskytovateľa. Spoločnosť, ktorá zadá vývoj AI externým vývojárom, je poskytovateľom, ak je systém umiestnený na trh pod značkou spoločnosti.

Nasadzujúci subjekt (čl. 3 ods. 4)

Akákoľvek fyzická alebo právnická osoba, verejný orgán, agentúra alebo iný subjekt, ktorý používa systém AI pod svojou autoritou na profesionálny účel — s výnimkou prípadov, kde je použitie v osobnej neprofesionálnej aktivite.

Kľúčový dôsledok: Drvivá väčšina podnikov používajúcich AI zakúpenú od tretích strán sú nasadzujúce subjekty. Povinnosti nasadzujúceho subjektu sú menej zaťažujúce ako povinnosti poskytovateľa, ale pre vysokorizikové systémy sú stále výrazné.

Oprávnený zástupca (čl. 3 ods. 5)

Akákoľvek fyzická alebo právnická osoba usadená v Únii, ktorá dostala písomný mandát od poskytovateľa systému AI usadeného mimo Únie na plnenie povinností v mene tohto poskytovateľa.

Kľúčový dôsledok: Poskytovatelia mimo EÚ systémov AI umiestnených na trhu EÚ musia vymenovať oprávneného zástupcu so sídlom v EÚ. Tento zástupca môže byť právne zodpovedný za povinnosti nariadenia EÚ o AI poskytovateľa.

Dovozca (čl. 3 ods. 6)

Akákoľvek fyzická alebo právnická osoba usadená v Únii, ktorá umiestňuje na trh EÚ systém AI nesúci názov alebo ochrannú známku fyzickej alebo právnickej osoby usadenej mimo Únie.

Distribútor (čl. 3 ods. 7)

Akákoľvek fyzická alebo právnická osoba v dodávateľskom reťazci, iná ako poskytovateľ alebo dovozca, ktorá sprístupňuje systém AI na trhu Únie bez jeho modifikácie.

Prevádzkovateľ (čl. 3 ods. 8)

Kolektívny pojem zahŕňajúci poskytovateľov, oprávnených zástupcov, dovozcov, distribútorov, nasadzujúce subjekty a akúkoľvek inú osobu podliehajúcu povinnostiam podľa Zákona.

Zamýšľaný účel (čl. 3 ods. 12)

Použitie, pre ktoré je systém AI zamýšľaný poskytovateľom, vrátane konkrétneho kontextu a podmienok použitia špecifikovaných v informáciách dodaných poskytovateľom v pokynoch na používanie, propagačných alebo predajných materiáloch alebo vyhláseniach.

Kľúčový dôsledok: Zamýšľaný účel určuje, ktorá kategória rizika platí a ktoré požiadavky musia byť splnené. Systém zamýšľaný na kreditné skórovanie je vysokorizikový (Príloha III); rovnaký základný model zamýšľaný na filtrovanie spamu nemusí byť. Poskytovatelia sa nemôžu vyhnúť klasifikácii vysokorizikového zanechaním zamýšľaného účelu vágneho — Zákon sa zameriava na všetky informácie o dizajne a marketingu systému.

Rozumne predvídateľné zneužitie (čl. 3 ods. 13)

Použitie systému AI spôsobom, ktorý nie je v súlade s jeho zamýšľaným účelom, ale môže vyplynúť z rozumne predvídateľného ľudského správania alebo interakcie s inými systémami.

Kľúčový dôsledok: Poskytovatelia musia v systémoch riadenia rizík posúdiť a riešiť predvídateľné zneužitie — nielen zamýšľaný prípad použitia. Systém rozpoznávania tváre zamýšľaný na kontrolu prístupu musí riešiť predvídateľné riziko, že by mohol byť použitý na sledovanie v reálnom čase.

Bezpečnostný komponent (čl. 3 ods. 14)

Komponent výrobku alebo systému AI, ktorý plní bezpečnostnú funkciu pre daný výrobok alebo systém AI, alebo ktorého zlyhanie alebo porucha ohrozuje zdravie a bezpečnosť osôb alebo majetku.

Kľúčový dôsledok: Systémy AI, ktoré sú bezpečnostnými komponentmi výrobkov pokrytých sektorovými právnymi predpismi Prílohy I, sú automaticky predmetom požiadaviek na vysokorizikový systém, bez ohľadu na to, či samotná AI priamo predstavuje riziko.

Umiestnenie na trh (čl. 3 ods. 9)

Prvé sprístupnenie systému AI alebo modelu so všeobecným účelom AI na trhu Únie.

Uvedenie do prevádzky (čl. 3 ods. 11)

Dodanie systému AI na prvé použitie priamo nasadzujúcemu subjektu alebo na vlastné použitie na trhu Únie na jeho zamýšľaný účel.

Kľúčový dôsledok: Aj „umiestnenie na trh" (predaj iným) aj „uvedenie do prevádzky" (použitie sám) spúšťajú povinnosti poskytovateľa. Podnik, ktorý buduje systém AI na interné použitie, ho uvádza do prevádzky a je poskytovateľom podliehajúcim všetkým povinnostiam.

Vysokorizikový systém AI

Nie je definovaný v jednej vete — klasifikovaný odkazom na Prílohu I (bezpečnostné komponenty v regulovaných výrobkoch) a Prílohu III (samostatné vysokorizikové prípady použitia). Úroveň rizika závisí od zamýšľaného účelu a kontextu nasadenia, nie od základnej technológie.

Vysokorizikové kategórie Prílohy III:

1. Biometrická identifikácia a kategorizácia
2. Správa kritickej infraštruktúry
3. Vzdelávanie a odborná príprava
4. Zamestnanosť, riadenie pracovníkov, prístup k samostatnej zárobkovej činnosti
5. Prístup k základným súkromným a verejným službám a dávkam a ich využívanie
6. Presadzovanie práva
7. Migrácia, azyl, správa kontroly hraníc
8. Správa spravodlivosti a demokratické procesy

Model so všeobecným účelom AI (GPAI) (čl. 3 ods. 63)

Model AI, vrátane tých trénovaných s veľkým množstvom údajov pomocou samodohľadového učenia vo veľkom rozsahu, ktorý vykazuje výraznú všeobecnosť a je schopný kompetentne vykonávať širokú škálu rôznych úloh bez ohľadu na spôsob, akým je model umiestnený na trhu — ktorý môže byť použitý v rôznych downstream aplikáciách.

Kľúčový rozdiel od systému AI: Model GPAI ešte nie je systémom AI. Stáva sa súčasťou systému AI, keď je integrovaný do výrobku alebo aplikácie. Zákon ukladá povinnosti poskytovateľom modelov GPAI samostatne od (a okrem) povinností na poskytovateľov systémov AI vybudovaných pomocou modelov GPAI.

Model GPAI so systémovým rizikom (čl. 3 ods. 65)

Model GPAI určený ako systémové riziko, pretože má vysoké dopadové schopnosti hodnotené podľa vhodných technických nástrojov a metodológií alebo pre jeho skutočný alebo rozumne predvídateľný vysoký dopadový dosah.

Aktuálnym ukazovateľom je kumulatívny trénovací výpočet presahujúci 10^25 FLOPs. Ďalšie kritériá môžu byť uplatňované delegovaným aktom Komisie.

Závažný incident (čl. 3 ods. 49)

Akýkoľvek incident alebo porucha systému AI, ktorá priamo alebo nepriamo vedie k:

• Smrti osoby alebo závažnému poškodeniu zdravia osoby
• Závažnému a nezvratnému narušeniu správy a prevádzky kritickej infraštruktúry
• Porušeniu povinností podľa práva Únie určeného na ochranu základných práv
• Závažnej škode na majetku alebo životnom prostredí

Podstatná modifikácia (čl. 3 ods. 23)

Zmena systému AI po umiestnení na trh alebo uvedení do prevádzky, ktorá nie je predvídaná ani plánovaná v počiatočnom posúdení zhody a ktorá ovplyvňuje súlad systému AI s požiadavkami Zákona alebo vedie k zmene zamýšľaného účelu.

Posúdenie zhody (čl. 3 ods. 20)

Postup overenia, či vysokorizikový systém AI spĺňa požiadavky stanovené v Kapitole III, oddiel 2 Zákona. Posúdzovanie zhody môže vykonávať poskytovateľ (sebahodnotenie) alebo notifikovaný orgán (posúdenie treťou stranou) v závislosti od typu systému.

Notifikovaný orgán (čl. 3 ods. 22)

Orgán posúdenia zhody určený členským štátom na vykonávanie činností posúdenia zhody treťou stranou pre vysokorizikové systémy AI. Notifikované orgány sú ekvivalentom nariadenia o AI pre orgány označovania CE používané v tradičnej regulácii výrobkov.

Orgán trhového dohľadu (čl. 3 ods. 26)

Národný orgán zodpovedný za vykonávanie trhového dohľadu podľa nariadenia o AI. Členské štáty musia určiť aspoň jeden orgán trhového dohľadu na členský štát.

Označenie CE (čl. 3 ods. 30)

Označenie, ktorým poskytovateľ uvádza, že vysokorizikový systém AI je v súlade s požiadavkami nariadenia o AI a ďalšími platnými právnymi predpismi Únie, ktoré ho ukladajú.

Sektorovo špecifické pojmy

Biometrické údaje (prevzaté z GDPR)

Osobné údaje vyplývajúce zo špecifického technického spracovania týkajúceho sa fyzických, fyziologických alebo behaviorálnych charakteristík fyzickej osoby, ktoré umožňujú alebo potvrdzujú jedinečnú identifikáciu tejto fyzickej osoby.

Systém diaľkovej biometrickej identifikácie (čl. 3 ods. 40)

Systém AI určený na identifikáciu fyzických osôb na diaľku prostredníctvom porovnania biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze, bez predchádzajúcej vedomosti používateľa systému AI, či bude osoba prítomná a môže byť identifikovaná.

Kľúčový dôsledok: Diaľková biometrická identifikácia v reálnom čase na verejne prístupných miestach je zakázaná na účely presadzovania práva s úzkymi výnimkami (čl. 5).

Základný model

Nie je definovaný v nariadení o AI — Zákon namiesto toho používa „model GPAI". Základný model je bežne používaný priemyselný termín pre modely vopred natrénované vo veľkom rozsahu. Na regulačné účely používajte „model GPAI".

Dolaďovanie

Nie je definované v Zákone. Prispôsobenie modelu GPAI konkrétnej doméne alebo úlohe prostredníctvom dodatočného trénovania. Ak dolaďovanie vedie k podstatne odlišnému modelu umiestnenému na trhu, dolaďovač sa môže stať poskytovateľom tohto nového modelu.

Procesné pojmy

Technická dokumentácia (Príloha IV)

Štruktúrovaný dokumentačný balík, ktorý musia poskytovatelia vysokorizikových systémov AI pripraviť pred umiestnením na trh a udržiavať počas celého životného cyklu systému. Zahŕňa popis systému, logiku dizajnu, informácie o trénovacích údajoch, výsledky testovania, dokumentáciu riadenia rizík a plán post-market monitoringu.

EÚ vyhlásenie o zhode (čl. 3 ods. 37)

Formálny dokument podpísaný poskytovateľom, ktorý uvádza, že vysokorizikový systém AI spĺňa všetky platné požiadavky Zákona. Je to právny základ pre umiestnenie označenia CE.

Pokyny na používanie (čl. 3 ods. 15)

Informácie poskytované poskytovateľom na informovanie nasadzujúceho subjektu o zamýšľanom účele systému AI, výkone, technických špecifikáciách a podmienkach použitia — vrátane akýchkoľvek obmedzení a predvídateľných rizík.

Plán post-market monitoringu (čl. 3 ods. 32)

Zdokumentovaný plán zavedený poskytovateľom na zber a preskúmavanie skúseností získaných z prevádzky vysokorizikového systému AI po jeho umiestnení na trh alebo uvedení do prevádzky.

Hodnotenie vplyvu na základné práva (čl. 27)

Hodnotenie, ktoré musia nasadzujúce subjekty vo verejnom sektore (a niektorí súkromní nasadzujúce subjekty) vykonať pred nasadením vysokorizikového systému AI, hodnotenie vplyvu na základné práva dotknutých osôb.