Článok 57 — Regulačné pieskoviská AI (nariadenie EÚ o AI)

Článok 57 nariadenia (EÚ) 2024/1689 — regulačné pieskoviská AI. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.

Zhrnutie oficiálneho textu

Článok 57 nariadenia (EÚ) 2024/1689 vyžaduje, aby členské štáty zriadili aspoň jedno regulačné pieskovisko AI na vnútroštátnej úrovni, funkčné najneskôr do 2. augusta 2026. Tieto pieskoviská musia byť zriadené príslušným vnútroštátnym príslušným orgánom alebo, kde je to vhodné, spoločne s príslušnými orgánmi iných členských štátov, pod koordináciou Európskeho úradu pre AI. Rámec pieskoviska umožňuje poskytovateľom a potenciálnym poskytovateľom systémov AI vyvíjať, trénovať, validovať a testovať inovatívne systémy AI v prostredí reálneho sveta alebo simulovanom prostredí pod priamym dohľadom príslušných orgánov, pred uvedením týchto systémov na trh alebo ich uvedením do prevádzky.

Účasť nepredstavuje výnimku z povinností stanovených v nariadení ani z platného práva Únie alebo členských štátov. Príslušné orgány však môžu v rámci pieskoviska uplatňovať existujúce právne požiadavky flexibilným alebo upraveným spôsobom, pokiaľ to neohrozuje ciele týchto ustanovení ani neriskuje poškodenie zdravia, bezpečnosti alebo základných práv.

Zúčastnené organizácie musia predložiť plán pieskoviska a fungovať podľa konkrétnych podmienok a požiadaviek stanovených orgánom. Pieskovisko funguje počas počiatočného obdobia dvanástich mesiacov, predĺžiteľného o ďalších dvanásť mesiacov. Členské štáty musia každoročne podávať správy Komisii o výsledkoch svojich pieskovísk. Komisia v spolupráci s Úradom pre AI a členskými štátmi vydá usmernenia o praktickom vykonávaní tohto článku vrátane kritérií výberu a podrobných postupov účasti.

Čo to znamená v praxi

Článok 57 vytvára formálnu, dozorovanú cestu pre organizácie, aby inovovali zodpovedne bez čakania na zavedenie celého aparátu súladu. V praxi je pieskovisko najrelevantnejšie pre startupy a MSP, ktoré vyvíjajú systémy AI, ktoré môžu spadať pod klasifikácie vysokého rizika alebo ktoré pôsobia v právne neistom území, ako sú systémy týkajúce sa zdravia, vzdelávania, zamestnanosti, kritickej infraštruktúry alebo presadzovania práva.

Pre spoločnosť, ktorá chce použiť pieskovisko, proces zahŕňa identifikáciu príslušného orgánu v jej členskom štáte, predloženie žiadosti s plánom pieskoviska opisujúcim systém AI, inovatívne ciele, navrhovanú metodológiu testovania a zavedené záruky. Ak je prijatá, orgán pridelí vyhradený kontaktný bod a môže organizácii umožniť testovanie systému so skutočnými údajmi alebo v reálnych podmienkach, ktoré by inak spustili prísnejšie predtrhové povinnosti.

Konkrétny príklad: startup vyvíjajúci nástroj na lekárske triedenie na báze AI, ktorý by sa za normálnych okolností kvalifikoval ako systém AI s vysokým rizikom podľa Annex III, by mohol vstúpiť do pieskoviska na uskutočnenie klinicky sledovaných pilotov. Počas pieskoviska môže orgán povoliť postupné uplatňovanie požiadaviek na posudzovanie zhody pri súčasnom monitorovaní správania systému a zrelosti startupu v oblasti súladu. Na konci obdobia pieskoviska musí startup buď dokončiť úplné posudzovanie zhody a zaregistrovať systém v databáze EÚ, alebo ho stiahnuť.

Dôležité je, že účasť v pieskovisku nevytvára regulačnú imunitu. Akákoľvek škoda spôsobená jednotlivcom počas testovania zostáva zodpovednosťou poskytovateľa a ochrany základných práv platia počas celého procesu. Pieskovisko je prostredie na testovanie a učenie, nie zrieknutie sa povinností.

Kľúčové povinnosti

• Termín zriadenia: Každý členský štát musí mať najneskôr do 2. augusta 2026 aspoň jedno funkčné regulačné pieskovisko AI v prevádzke, pod dohľadom svojho vnútroštátneho príslušného orgánu alebo prostredníctvom spoločného cezhraničného pieskoviskového dojednania.
• Požiadavka plánu pieskoviska: Účastníci musia predložiť a fungovať podľa schváleného plánu pieskoviska, ktorý definuje vyvíjaný systém AI, rozsah testovania, záruky a zamýšľané trhové uplatnenie.
• Pretrvávajúca právna zodpovednosť: Zúčastnené organizácie zostávajú v plnej miere zodpovedné za akékoľvek škody, ujmy alebo porušenia práv spôsobené počas aktivít pieskoviska; účasť neposkytuje imunitu podľa občianskeho, trestného práva ani práva na ochranu údajov.
• Limity trvania: Pieskoviská sú obmedzené na dvanásť mesiacov, jednorazovo predĺžiteľných o ďalších dvanásť mesiacov, po ktorých musí systém dosiahnuť úplný súlad alebo byť stiahnutý.
• Prioritný prístup pre MSP a startupy: Príslušné orgány musia zabezpečiť, aby MSP a startupy mali prednostný alebo uľahčený prístup k programom pieskovísk vrátane zjednodušených postupov podávania žiadostí a venovanej podpory.
• Podávanie správ a transparentnosť: Príslušné orgány musia na konci každého cyklu pieskoviska vypracovať správy sumarizujúce činnosti, výsledky a poučenia; členské štáty musia každoročne podávať Komisii správy o celkovom fungovaní svojich programov pieskovísk.

Vzťah k iným článkom

Článok 57 sa nachádza v Hlave VI (Opatrenia na podporu inovácií) spolu s Článkami 58 až 63, ktoré sa zaoberajú pravidlami spracovania údajov špecifickými pre pieskovisko, testovaním v reálnom svete mimo pieskovísk a opatreniami pre MSP. Je úzko spojený s Článkom 58, ktorý stanovuje podmienky ochrany údajov, za ktorých môžu byť osobné údaje spracovávané v pieskovisku na účely vývoja AI vo verejnom záujme.

Článok je taktiež priamo prepojený s povinnosťami týkajúcimi sa systémov AI s vysokým rizikom v Hlave III (Články 8 až 51), keďže pieskoviská sú určené predovšetkým na pomoc poskytovateľom pri plnení týchto požiadaviek pred uvedením na trh. Článok 74 o trhom dohľade je relevantný, pretože príslušný orgán dohliadajúci na pieskovisko môže byť rovnakým subjektom zodpovedným za dohľad po uvedení na trh.

Článok 57 by sa mal ďalej čítať spolu s Článkom 3 (definície, najmä definície „poskytovateľa", „potenciálneho poskytovateľa" a „systému AI") a Článkom 96, ktorý upravuje úlohu Úradu pre AI pri koordinácii cezhraničných aktivít pieskovísk a vydávaní implementačných usmernení.

Časový plán súladu

Nariadenie EÚ o AI nadobudlo účinnosť 1. augusta 2024, pričom povinnosti sa zavádzajú postupne počas viacročného obdobia. Článok 57 patrí pod všeobecný dátum uplatňovania 2. augusta 2026, čo znamená, že členské štáty sú povinné mať svoje regulačné pieskoviská AI funkčné do tohto dátumu.

Širší kalendár súladu poskytuje kontext pre relevantnosť pieskoviska: zákazy praktík AI s neprijateľným rizikom sa stali vymožiteľnými od 2. februára 2025; povinnosti týkajúce sa modelov AI na všeobecné účely (Hlava VIII) sa uplatňovali od 2. augusta 2025; a povinnosti pre systémy AI s vysokým rizikom uvedené v Annex III sa uplatňujú od 2. augusta 2026, s ďalším predĺžením do 2. augusta 2027 pre systémy s vysokým rizikom, na ktoré sa vzťahuje existujúca harmonizačná legislatíva Únie.

Toto postupné zavádzanie znamená, že mechanizmus pieskoviska podľa Článku 57 sa stáva dostupným presne vtedy, keď sa povinnosti AI s vysokým rizikom stávajú vymožiteľnými, čím poskytuje inovatívnym poskytovateľom štruktúrovanú cestu na testovanie a zdokonaľovanie ich systémov pod dohľadom pred tým, ako čelia plnej váhe posudzovania zhody, registrácie v databáze EÚ podľa Článku 71 a priebežných povinností monitorovania po uvedení na trh podľa Článku 72.