Člen 64 — Urad za UI (Akt EU o umetni inteligenci)

Člen 64 Uredbe (EU) 2024/1689 — Urad za UI. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 64 Uredbe (EU) 2024/1689 ustanavlja Urad za UI kot organ znotraj Evropske komisije, ki je zadolžen za prispevanje k izvajanju, spremljanju in nadzoru Akta EU o umetni inteligenci na ravni Unije. Urad za UI je opremljen s širokimi institucionalnimi pooblastili, ki zajemajo več temeljnih funkcij: razvijanje in vzdrževanje strokovnega znanja na ravni Unije o tehnologijah in trgih umetne inteligence; nadzor nad skladnostjo ponudnikov modelov UI splošne namembnosti, vključno z modeli, ki predstavljajo sistemsko tveganje; podpora Evropskemu odboru za umetno inteligenco in Komisiji pri njunih zadevnih nalogah; ter usklajevanje z nacionalnimi pristojnimi organi za zagotovitev doslednega izvrševanja na enotnem trgu.

Člen Uradu za UI podeljuje preiskovalna in izvršilna pooblastila v zvezi z modeli UI splošne namembnosti (GPAI). Ta vključujejo pooblastilo za zahtevanje informacij in dokumentacije od ponudnikov, izvajanje vrednotenj modelov GPAI in napotitev zadev za nadaljnje ukrepanje. Urad prav tako upravlja razvoj kodeksov ravnanja, namenjenih lajšanju izpolnjevanja obveznosti, ki se uporabljajo za ponudnike modelov GPAI po poglavju V Uredbe.

Člen 64 Uradu za UI nadalje nalaga odgovornost za spremljanje razvoja trga, nastajajočih zmogljivosti UI in sistemskih tveganj, povezanih z mejnimi modeli. Lahko izdaja smernice, priporočila in mnenja zainteresiranim stranem in nacionalnim organom. Urad za UI deluje kot enotna kontaktna točka za zadeve, ki vključujejo modele GPAI, in zagotavlja, da so izvršilni ukrepi na ravni Unije sorazmerni, tehnično utemeljeni in postopkovno pravilni v okviru, ki ga je vzpostavila Uredba.

Kaj to pomeni v praksi

Za ponudnike modelov UI splošne namembnosti — vključno z velikimi jezikovnimi modeli in večmodalnimi temeljnimi modeli — je Urad za UI primarni regulativni sogovornik na evropski ravni. Vsak ponudnik, katerega model je dostopen v EU, ne glede na to, kje je ponudnik ustanovljen, spada v obseg nadzornega pooblastila Urada za UI, ko začnejo veljati določbe o GPAI.

V praktičnem smislu bi ponudniki morali pričakovati, da bo Urad za UI izdajal zahtevke za tehnično dokumentacijo, vrednotenja modelov ter informacije o podatkih za usposabljanje, pragovih računalniške moči in primerih uporabe dolvodni. Ponudniki modelov, razvrščenih kot tisti, ki predstavljajo sistemsko tveganje — tisti, ki so bili usposobljeni z več kot 10^25 FLOP-i ali jih je Komisija kako drugače opredelila — se soočajo z okrepljenim nadzorom, vključno z zahtevami za nasprotovalno testiranje in obveznostmi poročanja o incidentih, ki jih nadzoruje Urad za UI.

Urad za UI prav tako vodi razvoj in nadzor kodeksov ravnanja za skladnost z GPAI. Sodelovanje pri teh kodeksih je prostovoljno, vendar ima precejšnjo skladnostno težo: ponudniki, ki se držijo odobrenega kodeksa ravnanja, imajo korist od domneve o skladnosti z ustreznimi obveznostmi. Ponudniki, ki se odločijo, da ne bodo sodelovali, morajo z drugimi sredstvi dokazati alternativno skladnost, ki jo Urad za UI ocenjuje.

Za uvajalne in dolvodni operaterje je Urad za UI manj neposredno relevanten, vendar njegovi smerniški dokumenti, objavljene ocene in izvršilne odločbe vzpostavljajo interpretativno osnovo, ki jo upoštevajo nacionalni organi za nadzor trga. Podjetja, ki integrirajo modele GPAI v sisteme UI z visokim tveganjem, bi morala pozorno spremljati objave Urada za UI, saj njegova tehnična ugotovitve oblikujejo način, kako se obveznosti prenašajo od ponudnikov GPAI na uvajatelje.

Nacionalni pristojni organi, ki obravnavajo sisteme UI z visokim tveganjem, se usklajujejo z Uradom za UI prek Evropskega odbora za umetno inteligenco, s čimer se zagotavlja, da izvrševanje v državah članicah ostane dosledno in tehnično utemeljeno.

Ključne obveznosti

• Ponudniki modelov GPAI morajo v celoti sodelovati z zahtevki Urada za UI za informacije, vključno z zagotavljanjem dostopa do tehnične dokumentacije, uteži modela (z ustreznimi zaščitami zaupnosti), povzetkov podatkov za usposabljanje in rezultatov vrednotenj v rokih, ki jih določi Urad.
• Ponudniki modelov GPAI s sistemskim tveganjem se morajo vključiti v okrepljeni nadzorni režim Urada za UI, vključno z vrednotenjem nasprotovalnih zmogljivosti, obveščanjem o incidentih in poročanjem o ukrepih kibernetske varnosti.
• Vsi ponudniki GPAI bi morali spremljati in sodelovati v procesih kodeksa ravnanja, ki jih vodi Urad za UI, ali pa vzdrževati dokumentirane alternativne dokaze o skladnosti, ki zadostijo oceni enakovrednosti Urada.
• Sam Urad za UI je zavezan izvajati svoja pooblastila v skladu z ustreznim postopkom, sorazmernostjo in postopkovnimi jamstvi, določenimi v poglavju VII Uredbe, vključno s pravicami do obrambe za subjekte v postopku preiskave.
• Nacionalni pristojni organi morajo sodelovati z Uradom za UI in ga podpirati pri njegovih čezmejnih preiskavah ter deliti zadevne ugotovitve nadzora trga prek vzpostavljenih mehanizmov usklajevanja.
• Evropska komisija mora zagotoviti, da je Urad za UI ustrezno opremljen s tehničnim strokovnim znanjem, kadrovanjem in neodvisnostjo delovanja za učinkovito izpolnjevanje svojega pooblastila po Uredbi.

Razmerje do drugih členov

Člen 64 je institucionalna osnova arhitekture upravljanja na ravni Unije in ga je treba brati v povezavi z okoliškimi določbami naslova VII. Člen 65 ustanavlja Evropski odbor za umetno inteligenco, ki deluje skupaj z Uradom za UI kot glavno posvetovalno telo. Člena 66 in 67 ustvarjata Posvetovalni forum oziroma Znanstveni odbor za UI splošne namembnosti — oba vnašata tehnično strokovno znanje v delovanje Urada za UI.

Za nadzor, specifičen za GPAI, se člen 64 neposredno navezuje na poglavje V (členi 51–56), ki določa obveznosti, ki jih uveljavlja Urad za UI. Členi 88 do 94 podrobno urejajo preiskovalna in izvršilna pooblastila Urada za UI, vključno z dostopom do modelov, korektivnimi ukrepi in kaznimi.

Člen 74 o nadzoru trga in člen 85 o zaupnosti informacij sta prav tako operativno relevantna za to, kako Urad za UI izvaja svoje dejavnosti. Člen 5 (prepovedane prakse) in členi 6–51 (sistemi z visokim tveganjem) oblikujejo odgovornosti Urada za UI za spremljanje trga, tudi tam, kjer primarno izvrševanje spada k nacionalnim organom.

Časovnica skladnosti

Akt EU o umetni inteligenci je začel veljati 1. avgusta 2024, kar je takoj vzpostavilo pravno podlago za Urad za UI. Urad je med začetnim prehodnim obdobjem začel vzpostavljati svojo strukturo in strokovno znanje.

Februar 2025: Določbe o prepovedanih praksah UI (člen 5) so postale uporabne; aktivirana je bila nadzorna vloga Urada za UI v zvezi s sistemskimi tveganji in razvojem trga.

Avgust 2025: Obveznosti v zvezi z modeli GPAI po poglavju V so postale v celoti uporabne. Od tega datuma naprej so postala v celoti operativna izvršilna pooblastila Urada za UI nad ponudniki modelov UI splošne namembnosti — vključno z ocenami sistemskega tveganja, nadzorom kodeksov ravnanja in zahtevki za informacije.

December 2026: Zahteve za sisteme UI z visokim tveganjem po Prilogi I (zakonodaja o varnosti izdelkov) se uporabljajo; nacionalni organi za nadzor trga se aktivirajo pod koordinacijo Urada za UI.

Avgust 2027: Preostale obveznosti za sisteme UI z visokim tveganjem po Prilogi III se uporabljajo. Polno večnivojsko upravljanje — ki združuje nadzor Urada za UI nad GPAI z uveljavljanjem sistemov z visokim tveganjem s strani nacionalnih organov — je operativno po celotnem enotnem trgu EU.

Ponudniki modelov GPAI, ki so bili na voljo pred avgustom 2025, so imeli omejeno prehodno prilagoditev, vendar bi morali biti zdaj v celoti skladni z vsemi obveznostmi poglavja V in aktivno vključeni v nadzorne procese Urada za UI.