Úrad EÚ pre AI: Mandát, Právomoci a Úloha v Presadzovaní nariadenia o AI

Úrad EÚ pre AI, zriadený v rámci Európskej komisie, je primárnym orgánom EÚ dohliadajúcim na modely GPAI a koordinujúcim presadzovanie nariadenia o AI. Táto stránka vysvetľuje jeho mandát, vyšetrovacie právomoci, sankčnú právomoc a spôsob interakcie s národnými orgánmi trhového dohľadu.

Čo je Úrad EÚ pre AI?

Úrad EÚ pre AI (formálne: Úrad pre umelú inteligenciu) je orgán EÚ zriadený v rámci Európskej komisie na dohľad nad implementáciou a presadzovaním nariadenia EÚ o AI — s konkrétnym mandátom pokrývajúcim modely so všeobecným účelom AI (GPAI).

Na rozdiel od tradičných agentúr EÚ (ako ENISA alebo EBA), Úrad pre AI nie je nezávislý regulačný orgán. Je štruktúrovaný ako administratívny úrad v rámci Generálneho riaditeľstva pre komunikačné siete, obsah a technológie (GR CONNECT). Táto štruktúra mu poskytuje priamy prístup k zdrojom Komisie a stanovaniu agendy, ale tiež znamená, že jeho rozhodnutia o presadzovaní sú technicky rozhodnutiami Komisie podliehajúcimi súdnemu preskúmaniu EÚ.

Úrad pre AI bol vytvorený skoro — formálne zriadený vo februári 2024, niekoľko mesiacov pred zverejnením nariadenia o AI v Úradnom vestníku (júl 2024) a jeho nadobudnutím účinnosti (august 2024). Toto skoré zriadenie bolo zámerné: regulácia GPAI je časovo citlivá vzhľadom na tempo vývoja základných modelov a Komisia chcela mať infraštruktúru presadzovania pripravenú pred tým, ako vstúpia do platnosti najurgentnejšie povinnosti.

Právny základ a mandát

Právny základ Úradu EÚ pre AI je Kapitola VIII nariadenia EÚ o AI (čl. 64–68), doplnená rozhodnutím Komisie z 24. januára 2024, ktoré ho formálne zriadilo.

Jeho základný mandát pokrýva tri oblasti:

1. Dohľad nad modelmi GPAI (Priame presadzovanie)

Úrad pre AI má výlučnú právomoc EÚ na dohľad nad poskytovateľmi modelov so všeobecným účelom AI. To zahŕňa:

• Monitorovanie súladu s povinnosťami Kapitoly V (transparentnosť, technická dokumentácia, dodržiavanie autorských práv, hlásenie energetickej účinnosti pre modely so systémovým rizikom)
• Vyžadovanie a preskúmavanie technickej dokumentácie od poskytovateľov GPAI
• Vykonávanie hodnotení modelov GPAI — vrátane adversariálneho testovania a cvičení red team — na posúdenie schopností a systémových rizík
• Vydávanie upozornení, keď model GPAI predstavuje systémové riziko
• Ukladanie pokút a nápravných opatrení

2. Cezhraničná koordinácia (Vysokorizikové systémy AI)

Pre vysokorizikové systémy AI je presadzovanie primárne národné. Úrad pre AI však zohráva kľúčovú koordinačnú úlohu:

• Uľahčovanie výmeny informácií medzi národnými orgánmi trhového dohľadu (MSA)
• Riešenie prípadov, kde nevyhovujúci vysokorizikový systém AI cirkuluje naprieč viacerými členskými štátmi
• Poskytovanie technickej expertízy a usmernení národným orgánom
• Vyžadovanie spoločných vyšetrovaní, kde je cezhraničný vplyv výrazný

3. Vedecká a technická podpora

Úrad pre AI prevádzkuje Vedeckú poradnú radu zloženú z nezávislých odborníkov na AI (čl. 68). Táto rada poskytuje:

• Technické hodnotenia schopností a rizík modelov GPAI
• Rady k hraniciam klasifikácie (napr. hranica výpočtu pre modely GPAI so systémovým rizikom)
• Vstup do vývoja noriem, kódexov správania a metodológií hodnotenia

Vyšetrovacie a sankčné právomoci

Úrad EÚ pre AI má výrazné vyšetrovacie právomoci voči poskytovateľom modelov GPAI vrátane:

Žiadosti o informácie

Úrad pre AI môže požadovať akékoľvek informácie od poskytovateľa GPAI, ktoré považuje za potrebné pre svoje dozorné úlohy (čl. 91). Poskytovatelia musia odpovedať v časovom rámci stanovenom Úradom. Neposkytnutie informácií alebo poskytnutie falošných alebo zavádzajúcich informácií je samo o sebe trestateľným trestným činom.

Hodnotenia a testovanie

Úrad pre AI môže požadovať, aby poskytovateľ GPAI predložil svoj model na hodnotenie vrátane:

• Hodnotení schopností (identifikácia nebezpečných schopností ako pomoc CBRN, uľahčovanie kybernetických útokov alebo manipulácia vo veľkom)
• Hodnotenia bezpečnosti a zarovnania
• Adversariálneho testovania/red-teamingu

Úrad môže vykonávať hodnotenia sám, alebo ich zadávať kvalifikovaným tretím stranám alebo národným orgánom. Nariadenie o AI vyžaduje, aby poskytovatelia GPAI s modelmi so systémovým rizikom poskytli prístup k svojim modelom na účely hodnotenia.

Kontroly na mieste

Pre modely GPAI so systémovým rizikom môže Úrad pre AI vykonávať kontroly na mieste zariadení poskytovateľa s asistenciou národných orgánov v dotknutom členskom štáte. Predchádzajúce oznámenie je vo všeobecnosti vyžadované, pokiaľ Úrad nemá konkrétne dôvody domnievať sa, že predchádzajúce oznámenie by ohrozilo vyšetrovanie.

Predbežné opatrenia

Kde existuje urgentné riziko, Úrad pre AI môže uložiť predbežné predbežné opatrenia na predchádzanie závažnej a nenapraviteľnej škode. Tieto opatrenia musia byť primerané a podliehajú preskúmaniu.

Pokuty

Pokuty sú štruktúrované v troch úrovniach:

Pre MSP a začínajúce podniky platí nižšia z pevnej sumy alebo percentuálneho podielu obratu. Úrad pre AI musí brať do úvahy povahu, závažnosť, trvanie a dôsledky porušenia, ako aj úrovne spolupráce preukázané poskytovateľom.

Kódex správania GPAI

Kľúčovým nástrojom Úradu pre AI je Kódex správania GPAI — technický dobrovoľný nástroj vyvinutý prostredníctvom multistakeholderského procesu, ktorý prekladá povinnosti Kapitoly V Zákona do konkrétnych implementačných pokynov.

Proces Kódexu správania začal v októbri 2024, pričom Úrad pre AI zvolal pracovné skupiny poskytovateľov GPAI, akademických výskumníkov, organizácií občianskej spoločnosti a národných orgánov. Pokrýva:

• Povinnosti transparentnosti pre poskytovateľov GPAI (súhrny trénovacích údajov, dokumentácia schopností)
• Postupy dodržiavania autorského práva
• Metodológie hodnotenia modelov pre posúdenie systémového rizika
• Bezpečnostné a bezpečnostné normy pre modely GPAI so systémovým rizikom

Dodržiavanie Kódexu správania vytvára predpoklad zhody s príslušnými povinnosťami Kapitoly V. Toto je výrazná výhoda: poskytovatelia, ktorí dodržiavajú Kódex, sa na neho môžu spoliehať v konaniach o presadzovaní a nemusia preukazovať súlad od nuly.

Rada pre AI

Rada pre AI (čl. 65) pôsobí paralelne s Úradom pre AI. Skladá sa z:

• Jedného zástupcu za každý členský štát EÚ (národné dozorné orgány)
• Zástupcu Európskeho dozorného úradníka pre ochranu údajov (EDPS)
• Zástupcu Komisie (predseda bez hlasovacieho práva)

Funkcie Rady pre AI zahŕňajú:

• Vydávanie stanovísk a odporúčaní Úradu pre AI a Komisii
• Koordinovanie národných dozorných prístupov
• Poradenstvo pri klasifikácii systémov a modelov AI
• Prispievanie k vývoju noriem a metodológií hodnotenia

Rada je poradný a koordinačný orgán — nemá priamu sankčnú právomoc. Jej stanoviská však majú výraznú váhu a Úrad pre AI sa od neho očakáva, že ich bude zohľadňovať.

Národné orgány trhového dohľadu

Pre vysokorizikové systémy AI (nie modely GPAI) sú národné orgány trhového dohľadu (MSA) primárnymi orgánmi presadzovania. Každý členský štát musí určiť aspoň jeden MSA zodpovedný za presadzovanie nariadenia o AI na svojom území.

MSA majú právomoc:

• Vykonávať činnosti trhového dohľadu
• Požadovať technickú dokumentáciu a protokoly prístupu od poskytovateľov a nasadzujúcich subjektov
• Nariaďovať nápravné opatrenia (stiahnutie z trhu, recall, obmedzenie prístupu na trh)
• Ukladať pokuty podľa národnej implementačnej legislatívy

Úrad pre AI koordinuje s MSA prostredníctvom Rady pre AI a prostredníctvom bilaterálnej spolupráce, ale im neprikazuje. Členské štáty sú zodpovedné za zdrojovanie a posilňovanie svojich MSA.

Praktické dôsledky pre poskytovateľov GPAI

Ak vyvíjate alebo nasadzujete model so všeobecným účelom AI prístupný na trhu EÚ, Úrad EÚ pre AI je váš primárny regulačný partner. Prakticky to znamená:

1. Proaktívne registrujte a dokumentujte — Úrad pre AI očakáva, že poskytovatelia budú mať technickú dokumentáciu pripravenú pred tým, ako budú požiadaní. Narýchle pripravovať dokumentáciu po vyšetrovaní nie je silnou pozíciou súladu.

2. Zapojte sa do Kódexu správania — účasť v procese Kódexu správania GPAI a prijatie jeho ustanovení vytvára predpoklad zhody a preukazuje dobrú vieru Úradu pre AI.

3. Poznajte svoj stav systémového rizika — aktuálna hranica pre klasifikáciu systémového rizika je trénovací výpočet presahujúci 10^25 FLOPs. Ak je váš model blízko alebo nad touto hranicou, proaktívne sa zapojte s Úradom pre AI o povinnostiach hodnotenia.

4. Pripravte sa na hodnotenia — ak vyvíjate model GPAI so systémovým rizikom, musíte byť schopní poskytnúť prístup k modelu na hodnotenie. To vyžaduje technickú infraštruktúru pre kontrolovaný prístup cez API, spoluprácu pri adversariálnom testovaní a dokumentáciu výsledkov red-teamingu.

5. Monitorujte upozornenia a stanoviská — Úrad pre AI zverejňuje usmernenia, upozornenia a stanoviská na svojej webovej stránke. Nie sú záväznými nariadeniami, ale signalizujú priority presadzovania a interpretačné pozície, ktoré budú formovať vyšetrovania.