Urad EU za UI: Mandat, Pooblastila in Vloga pri Uveljavitvi Akta o UI

Urad EU za UI, ustanovljen v okviru Evropske komisije, je primarni organ na ravni EU, ki nadzoruje modele GPAI in koordinira uveljavitev Akta o UI. Ta stran pojasnjuje njegov mandat, preiskovalna pooblastila, pristojnost sankcioniranja in način interakcije z nacionalnimi organi za nadzor trga.

Kaj je Urad EU za UI?

Urad EU za UI (formalno: Urad za umetno inteligenco) je organ na ravni EU, ustanovljen v okviru Evropske komisije, ki nadzoruje implementacijo in uveljavitev Akta EU o UI — s posebnim mandatom, ki zajema modele splošne namenske UI (GPAI).

Za razliko od tradicionalnih agencij EU (kot sta ENISA ali EBA) Urad za UI ni neodvisen regulativni organ. Je strukturiran kot upravni urad v okviru Generalnega direktorata za komunikacijska omrežja, vsebino in tehnologijo (GD CONNECT). Ta struktura mu zagotavlja neposreden dostop do virov Komisije in postavljanja agende, toda pomeni tudi, da so njegove izvršilne odločitve tehnično odločitve Komisije, ki so predmet sodnega pregleda EU.

Urad za UI je bil ustvarjen zgodaj — formalno ustanovljen februarja 2024, več mesecev pred objavo Akta o UI v Uradnem listu (julij 2024) in začetkom veljavnosti (avgust 2024). To zgodnje vzpostavljanje je bilo namerno: regulacija GPAI je časovno občutljiva glede na tempo razvoja temeljnih modelov, in Komisija je hotela izvršilno infrastrukturo pripravljeno, preden so stopile v veljavo najnujnejše obveznosti.

Pravna osnova in mandat

Pravna osnova Urada EU za UI je Poglavje VIII Akta EU o UI (čl. 64–68), dopolnjeno z Odločbo Komisije z dne 24. januarja 2024, ki jo je formalno vzpostavila.

Njen temeljni mandat zajema tri področja:

1. Nadzor modela GPAI (neposredna uveljavitev)

Urad za UI ima izključno pristojnost na ravni EU za nadzor nad ponudniki modelov splošne namenske UI. To vključuje:

• Nadzor skladnosti z obveznostmi Poglavja V (preglednost, tehnična dokumentacija, skladnost z avtorskimi pravicami, poročanje o učinkovitosti energije za modele z sistemskim tveganjem)
• Zahtevanje in pregled tehnične dokumentacije od ponudnikov GPAI
• Izvajanje vrednotenj modelov GPAI — vključno s preizkušanjem z nasprotniki in vajami rdečega ekipiranja — za oceno zmogljivosti in sistemskih tveganj
• Izdajanje opozoril, ko model GPAI predstavlja sistemsko tveganje
• Nalaganje glob in popravljalnih ukrepov

2. Čezmejna koordinacija (visokotveganostni sistemi UI)

Za visokotveganostne sisteme UI je uveljavitev v prvi vrsti nacionalna. Toda Urad za UI igra ključno vlogo koordinacije:

• Olajšanje izmenjave informacij med nacionalnimi organi za nadzor trga (NST)
• Obravnavanja primerov, kjer neskladen visokotveganostni sistem UI kroži v več državah članicah
• Zagotavljanje tehniške strokovnosti in navodil nacionalnim organom
• Zahtevanje skupnih preiskav, kjer je čezmejni vpliv pomemben

3. Znanstvena in tehnična podpora

Urad za UI upravlja Znanstveni posvetovalni odbor, sestavljen iz neodvisnih strokovnjakov za UI (čl. 68). Ta odbor zagotavlja:

• Tehnične ocene zmogljivosti in tveganj modelov GPAI
• Nasvete o pragih klasifikacije (npr. prag računanja za modele GPAI s sistemskim tveganjem)
• Prispevke k razvoju standardov, kodeksov ravnanja in metodologij vrednotenja

Preiskovalna in izvršilna pooblastila

Urad EU za UI ima pomembna preiskovalna pooblastila nad ponudniki modelov GPAI, vključno z:

Zahteve za informacije

Urad za UI može od ponudnika GPAI zahtevati vse informacije, ki jih šteje za potrebne za nadzorne naloge (čl. 91). Ponudniki morajo odgovoriti v roku, ki ga določi Urad. Neposredovanje informacij ali zagotavljanje lažnih ali zavajajočih informacij je samo po sebi kaznivo dejanje.

Vrednotenja in preizkušanja

Urad za UI může zahtevati, da ponudnik GPAI predloži model za vrednotenje, vključno z:

• Ocenami zmogljivosti (prepoznavanje nevarnih zmogljivosti, kot so pomoč pri KBRO, olajšanje kibernetskih napadov ali manipulacija v obsegu)
• Ocenami varnosti in usklajevanja
• Preizkušanjem z nasprotniki / rdečim ekipiranjem

Urad može vrednotenja izvesti sam ali jih naročiti kvalificiranim tretjim strankam ali nacionalnim organom. Akt o UI od ponudnikov GPAI z modeli z sistemskim tveganjem zahteva, da za namene vrednotenja zagotovijo dostop do svojih modelov.

Pregledi na kraju samem

Za modele GPAI s sistemskim tveganjem može Urad za UI s pomočjo nacionalnih organov v zadevni državi članici izvajati preglede na kraju samem v prostorih ponudnika. Predhodno obvestilo je na splošno potrebno, razen če ima Urad posebne razloge za vero, da bi predhodno obvestilo škodovalo preiskavi.

Začasni ukrepi

Kjer obstaja nujno tveganje, može Urad za UI naložiti začasne začasne ukrepe za preprečevanje resne in nepopravljive škode. Ti ukrepi morajo biti sorazmerni in so predmet pregleda.

Globe

Globe so strukturirane v treh nivojih:

Za MSP in zagonska podjetja se upošteva nižji od fiksnega zneska ali odstotka prometa. Urad za UI mora upoštevati naravo, resnost, trajanje in posledice kršitve ter ravni sodelovanja, ki jih je pokazal ponudnik.

Kodeks ravnanja za GPAI

Ključni instrument Urada za UI je Kodeks ravnanja za GPAI — prostovoljni tehnični instrument, razvit z večdeležniškim postopkom, ki obveznosti Poglavja V pretvori v konkretna navodila za implementacijo.

Postopek Kodeksa ravnanja se je začel oktobra 2024, ko je Urad za UI sklical delovne skupine ponudnikov GPAI, akademskih raziskovalcev, organizacij civilne družbe in nacionalnih organov. Zajema:

• Obveznosti preglednosti za ponudnike GPAI (povzetki podatkov za usposabljanje, dokumentacija zmogljivosti)
• Postopke skladnosti z avtorskimi pravicami
• Metodologije vrednotenja modelov za oceno sistemskega tveganja
• Varnostne in varnostne standarde za modele GPAI s sistemskim tveganjem

Skladnost s Kodeksom ravnanja ustvari domnevo o skladnosti z ustreznimi obveznostmi Poglavja V. To je velika prednost: ponudniki, ki upoštevajo Kodeks, se nanj lahko v postopkih uveljavitve zanašajo, ne da bi morali od začetka dokazovati skladnost.

Odbor za UI

Odbor za UI (čl. 65) deluje vzporedno z Uradom za UI. Sestavljen je iz:

• Po enega zastopnika iz vsake države članice EU (nacionalni nadzorni organi)
• Zastopnika Evropskega nadzornika za varstvo podatkov (ENVP)
• Zastopnika Komisije (predsednik brez glasovalnih pravic)

Funkcije Odbora za UI vključujejo:

• Izdajanje mnenj in priporočil Uradu za UI in Komisiji
• Usklajevanje nacionalnih nadzornih pristopov
• Svetovanje glede klasifikacije sistemov UI in modelov
• Prispevanje k razvoju standardov in metodologij vrednotenja

Odbor je posvetovalni in koordinacijski organ — nima neposrednega izvršilnega pooblastila. Toda njegova mnenja imajo precejšnjo težo in od Urada za UI se pričakuje, da jih upošteva.

Nacionalni organi za nadzor trga

Za visokotveganostne sisteme UI (ne modele GPAI) so nacionalni organi za nadzor trga (NST) primarni organi za uveljavitev. Vsaka država članica mora določiti vsaj enega NST, odgovornega za uveljavitev Akta o UI na svojem ozemlju.

NST-ji imajo pooblastilo za:

• Izvajanje dejavnosti nadzora trga
• Zahtevanje tehnične dokumentacije in dostopnih dnevnikov od ponudnikov in izvajalcev
• Nalaganje popravljalnih ukrepov (umik, odpoklic, omejitev tržnega dostopa)
• Nalaganje glob po nacionalni izvedbeni zakonodaji

Urad za UI koordinira z NST-ji prek Odbora za UI in prek dvostranskega sodelovanja, toda jim ne ukazuje. Države članice so odgovorne za zagotavljanje virov in pooblastil za svoje NST-je.

Praktične posledice za ponudnike GPAI

Če razvijate ali uvajate model splošne namenske UI, dostopen na trgu EU, je Urad EU za UI vaša primarna regulativna protistranka. Praktično to pomeni:

1. Proaktivno registrirajte in dokumentirajte — Urad za UI pričakuje, da imajo ponudniki pripravljeno tehnično dokumentacijo, preden je zaprošena. Sesljanje dokumentacije po poizvedbi ni trdno stanje skladnosti.

2. Vključite se s Kodeksom ravnanja — sodelovanje v postopku Kodeksa ravnanja za GPAI in upoštevanje njegovih določb ustvari domnevo o skladnosti in kaže dobro vero do Urada za UI.

3. Poznajte svoj status sistemskega tveganja — trenutni prag za klasifikacijo sistemskega tveganja je računanje za usposabljanje, ki presega 10^25 FLOPs. Če je vaš model blizu ali nad tem pragom, se proaktivno vključite z Uradom za UI glede obveznosti vrednotenja.

4. Pripravite se na vrednotenja — če razvijate model GPAI s sistemskim tveganjem, morate biti sposobni zagotoviti dostop do modela za vrednotenje. To zahteva tehnično infrastrukturo za nadzorovani API dostop, sodelovanje pri preizkušanju z nasprotniki in dokumentacijo rezultatov rdečega ekipiranja.

5. Nadzorujte opozorila in mnenja — Urad za UI na svoji spletni strani objavlja navodila, opozorila in mnenja. To niso zavezujoči predpisi, toda signalizirajo prednostne naloge uveljavitve in interpretativna stališča, ki bodo oblikovala preiskave.