Ured za AI EU: Mandat, ovlasti i uloga u provedbi AI akta

Ured za AI EU, osnovan unutar Europske komisije, primarno je EU tijelo koje nadzire GPAI modele i koordinira provedbu AI akta. Ova stranica objašnjava njegov mandat, istražne ovlasti, ovlast sankcioniranja i interakciju s nacionalnim tijelima za nadzor tržišta.

Što je Ured za AI EU?

Ured za AI EU (formalno: Ured za umjetnu inteligenciju) je EU tijelo osnovano unutar Europske komisije za nadzor implementacije i provedbe EU AI akta — s posebnim mandatom koji pokriva modele opće namjene (GPAI).

Za razliku od tradicionalnih EU agencija (poput ENISA-e ili EBA-e), Ured za AI nije neovisno regulatorno tijelo. Strukturiran je kao administrativni ured unutar Glavne uprave za komunikacijske mreže, sadržaj i tehnologiju (GU CONNECT). Ova struktura daje mu izravan pristup resursima Komisije i postavljanju agende, ali znači i da su njegove odluke o provedbi tehnički odluke Komisije podložne sudskom preispitivanju EU-a.

Ured za AI stvoren je rano — formalno osnovan u veljači 2024., nekoliko månader prije objavljivanja AI akta u Službenom listu (srpanj 2024.) i stupanja na snagu (kolovoz 2024.). Ovo rano osnivanje bilo je namjerno: regulacija GPAI-a je vremenski osjetljiva s obzirom na tempo razvoja temeljnih modela, a Komisija je željela infrastrukturu provedbe spremu prije nego što su stupile na snagu najhitnije obveze.

Pravna osnova i mandat

Pravna osnova Ureda za AI EU je Poglavlje VIII EU AI akta (Čl. 64–68), dopunjena Odlukom Komisije od 24. siječnja 2024. koja ga je formalno osnovala.

Njegov temeljni mandat pokriva tri područja:

1. Nadzor GPAI modela (Izravna provedba)

Ured za AI ima isključivu EU razinu nadležnosti za nadzor pružatelja GPAI modela. To uključuje:

• Praćenje usklađenosti s obvezama Poglavlja V (transparentnost, tehnička dokumentacija, usklađenost s autorskim pravima, izvještavanje o energetskoj učinkovitosti za modele sustavnog rizika)
• Zahtijevanje i pregled tehničke dokumentacije od pružatelja GPAI-a
• Provođenje evaluacija GPAI modela — uključujući adversarijalno testiranje i red-team vježbe — za procjenu sposobnosti i sustavnih rizika
• Izdavanje upozorenja kada GPAI model predstavlja sustavni rizik
• Izricanje kazni i korektivnih mjera

2. Prekogranična koordinacija (Visokorizični AI sustavi)

Za visokorizične AI sustave, provedba je primarno nacionalna. Ali Ured za AI igra ključnu ulogu koordinacije:

• Olakšavanje razmjene informacija između nacionalnih tijela za nadzor tržišta (TZT)
• Rukovanje slučajevima gdje neusklađeni visokorizični AI sustav cirkulira u više država članica
• Pružanje tehničke stručnosti i smjernica nacionalnim tijelima
• Zahtijevanje zajedničkih istraga gdje je prekogranični utjecaj značajan

3. Znanstvena i tehnička podrška

Ured za AI vodi Znanstveno savjetodavno vijeće sastavljeno od neovisnih AI stručnjaka (Čl. 68). Ovo vijeće pruža:

• Tehničke procjene sposobnosti i rizika GPAI modela
• Savjete o pragovima klasifikacije (npr. prag računalnog kapaciteta za GPAI modele sustavnog rizika)
• Ulaze u razvoj normi, kodeksa prakse i metodologija evaluacije

Istražne i provedbene ovlasti

Ured za AI EU ima značajne istražne ovlasti nad pružateljima GPAI modela, uključujući:

Zahtjevi za informacije

Ured za AI može zahtijevati bilo koje informacije od pružatelja GPAI-a koje smatra potrebnima za svoje nadzorne zadatke (Čl. 91). Pružatelji moraju odgovoriti u vremenskom okviru koji je postavio Ured. Nedostavljanje informacija, ili dostavljanje lažnih ili obmanjujućih informacija, samo je po sebi sankcionabilna povreda.

Evaluacije i testiranje

Ured za AI može zahtijevati da pružatelj GPAI-a podnese svoj model na evaluaciju, uključujući:

• Procjene sposobnosti (identificiranje opasnih sposobnosti poput CBRN asistencije, olakšavanja kibernetičkih napada ili manipulacije u velikom opsegu)
• Evaluacije sigurnosti i usklađenosti
• Adversarijalno testiranje / red-teaming

Ured može provoditi evaluacije sam, ili ih povjeriti kvalificiranim trećim stranama ili nacionalnim tijelima. AI akt zahtijeva od pružatelja GPAI-a s modelima sustavnog rizika da osiguraju pristup modelima za svrhe evaluacije.

Inspekcije na licu mjesta

Za GPAI modele sustavnog rizika, Ured za AI može provoditi inspekcije objekata pružatelja na licu mjesta, uz pomoć nacionalnih tijela u dotičnoj državi članici. Obično se zahtijeva prethodna najava, osim ako Ured ima posebne razloge za vjerovanje da bi prethodna najava ugrozila istragu.

Privremene mjere

Gdje postoji hitan rizik, Ured za AI može uvesti privremene mjere za prevenciju ozbiljne i nepopravljive štete. Ove mjere moraju biti proporcionalne i podložne preispitivanju.

Kazne

Kazne su strukturirane u tri razine:

Za MSP-ove i startupe, primjenjuje se niži od fiksnog iznosa ili postotka prihoda. Ured za AI mora uzeti u obzir prirodu, ozbiljnost, trajanje i posljedice povrede, kao i razinu suradnje pružatelja.

Kodeks prakse GPAI-a

Ključni instrument Ureda za AI je Kodeks prakse GPAI-a — tehničko dobrovoljno sredstvo razvijeno kroz višedioniički proces koji prevodi obveze Poglavlja V Akta u konkretne smjernice za implementaciju.

Proces Kodeksa prakse počeo je u listopadu 2024., kada je Ured za AI sazvao radne skupove pružatelja GPAI-a, akademskih istraživača, organizacija civilnog društva i nacionalnih tijela. Pokriva:

• Obveze transparentnosti za pružatelje GPAI-a (sažeci podataka za obuku, dokumentacija sposobnosti)
• Postupci usklađenosti s autorskim pravima
• Metodologije evaluacije modela za procjenu sustavnog rizika
• Standardi sigurnosti i zaštite za GPAI modele sustavnog rizika

Usklađenost s Kodeksom prakse stvara presumpciju sukladnosti s odgovarajućim obvezama Poglavlja V. Ovo je značajna prednost: pružatelji koji slijede Kodeks mogu se na njega osloniti u postupcima provedbe umjesto da moraju dokazivati sukladnost od nule.

Odbor za AI

Odbor za AI (Čl. 65) djeluje paralelno s Uredom za AI. Sastoji se od:

• Jednog predstavnika po državi članici EU-a (nacionalna nadzorna tijela)
• Predstavnika Europskog nadzornika za zaštitu podataka (ENZZP)
• Predstavnika Komisije (neglasujući predsjedatelj)

Funkcije Odbora za AI uključuju:

• Izdavanje mišljenja i preporuka Uredu za AI i Komisiji
• Koordiniranje nacionalnih nadzornih pristupa
• Savjetovanje o klasifikaciji AI sustava i modela
• Doprinošenje razvoju normi i metodologija evaluacije

Odbor je savjetodavno i koordinacijsko tijelo — nema izravnih provedbenih ovlasti. Međutim, njegova mišljenja nose značajan utjecaj i od Ureda za AI se očekuje da ih uzima u obzir.

Nacionalna tijela za nadzor tržišta

Za visokorizične AI sustave (ne GPAI modele), nacionalna tijela za nadzor tržišta (TZT) su primarna tijela provedbe. Svaka država članica mora odrediti barem jedno TZT odgovorno za provedbu AI akta na svom teritoriju.

TZT-i imaju ovlast:

• Provoditi aktivnosti nadzora tržišta
• Zahtijevati tehničku dokumentaciju i zapise pristupa od pružatelja i korisnika
• Naređivati korektivne mjere (povlačenje, opoziv, ograničenje pristupa tržištu)
• Izricati kazne prema nacionalnom provedbenom zakonodavstvu

Ured za AI koordinira s TZT-ima putem Odbora za AI i bilateralnom suradnjom, ali njima ne zapovijeda. Države članice odgovorne su za osiguranje resursa i ovlasti TZT-ima.

Praktične implikacije za pružatelje GPAI-a

Ako razvijate ili raspoređujete GPAI model dostupan na EU tržištu, Ured za AI EU vaš je primarni regulatorni sugovornik. Praktično to znači:

1. Proaktivno registrirajte i dokumentirajte — Ured za AI očekuje da pružatelji imaju tehničku dokumentaciju spremnu prije nego što budu upitani. Improviziranje dokumentacije nakon upita nije jaka pozicija usklađenosti.

2. Angažirajte se s Kodeksom prakse — sudjelovanje u procesu Kodeksa prakse GPAI-a i usvajanje njegovih odredbi stvara presumpciju sukladnosti i pokazuje dobru vjeru Uredu za AI.

3. Znajte svoj status sustavnog rizika — trenutni prag za klasifikaciju sustavnog rizika je računalni kapacitet za obuku koji premašuje 10^25 FLOP-ova. Ako je vaš model blizak ili iznad ovog praga, proaktivno se angažirajte s Uredom za AI o obvezama evaluacije.

4. Pripremite se za evaluacije — ako razvijate GPAI model sa sustavnim rizikom, morate biti u mogućnosti pružiti pristup modelu za evaluaciju. To zahtijeva tehničku infrastrukturu za kontroliran API pristup, suradnju u adversarijalnom testiranju i dokumentaciju rezultata red-teaminga.

5. Pratite upozorenja i mišljenja — Ured za AI objavljuje smjernice, upozorenja i mišljenja na svojoj web stranici. Ovo nisu obvezujući propisi, ali signaliziraju prioritete provedbe i interpretativne pozicije koje će oblikovati istrage.