Članak 64 — Ured za AI (EU AI Akt)

Članak 64 Uredbe (EU) 2024/1689 — Ured za AI. Službeni tekst, praktično tumačenje, ključne obveze i implikacije za usklađenost.

Sažetak službenog teksta

Članak 64 Uredbe (EU) 2024/1689 uspostavlja Ured za AI kao tijelo unutar Europske komisije, zaduženo za doprinos provedbi, praćenju i nadzoru EU AI Akta na razini Unije. Uredu za AI dodijeljen je širok institucionalni mandat koji obuhvaća nekoliko temeljnih funkcija: razvoj i održavanje stručnosti na razini Unije o tehnologijama i tržištima umjetne inteligencije; nadzor usklađenosti pružatelja modela opće namjene AI, uključujući modele koji predstavljaju sustavni rizik; podrška Europskom odboru za umjetnu inteligenciju i Komisiji u njihovim odgovarajućim zadacima; te koordinacija s nacionalnim nadležnim tijelima radi osiguranja koherentnog izvršavanja na jedinstvenom tržištu.

Članak daje Uredu za AI istražne i provedbene ovlasti u pogledu modela opće namjene AI (GPAI). To uključuje ovlast za traženje informacija i dokumentacije od pružatelja, provođenje evaluacija GPAI modela i upućivanje predmeta na daljnje postupanje. Ured također upravlja razvojem kodeksa prakse namijenjenih olakšavanju usklađenosti s obvezama primjenjivima na pružatelje GPAI modela prema Poglavlju V Uredbe.

Članak 64 nadalje dodjeljuje Uredu za AI odgovornost za praćenje razvoja tržišta, novih AI sposobnosti i sustavnih rizika vezanih uz granične modele. Može izdavati smjernice, preporuke i mišljenja dionicima i nacionalnim tijelima. Ured za AI djeluje kao jedinstvena kontaktna točka za pitanja koja uključuju GPAI modele i osigurava da provedbene radnje na razini Unije budu razmjerne, tehnički informirane i proceduralno utemeljene prema okviru utvrđenom Uredbom.

Što ovo znači u praksi

Za pružatelje modela opće namjene AI — uključujući velike jezične modele i multimodalne temeljne modele — Ured za AI je primarna regulatorna sugovornica na europskoj razini. Svaki pružatelj čiji je model dostupan u EU, bez obzira na to gdje je pružatelj osnovan, potpada pod mandat nadzora Ureda za AI kada postanu primjenjive odredbe o GPAI modelima.

U praktičnom smislu, pružatelji mogu očekivati da će Ured za AI izdavati zahtjeve za tehničku dokumentaciju, evaluacije modela i informacije o podacima za obučavanje, pragovima računalnih kapaciteta i slučajevima korištenja u narednom lancu. Pružatelji modela klasificiranih kao oni koji predstavljaju sustavni rizik — oni obučavani s više od 10^25 FLOP-ova ili na drugi način identificirani od strane Komisije — suočavaju se s pojačanim nadzorom, uključujući zahtjeve adversarnog testiranja i obveze prijave incidenata koje prati Ured za AI.

Ured za AI također vodi razvoj i nadzor kodeksa prakse za usklađenost s GPAI obvezama. Sudjelovanje u tim kodeksima je dobrovoljno, ali nosi značajnu težinu za usklađenost: pružatelji koji se pridržavaju odobrenog kodeksa prakse imaju koristi od presumpcije sukladnosti s odgovarajućim obvezama. Pružatelji koji odluče ne sudjelovati moraju demonstrirati alternativnu usklađenost drugim sredstvima, što Ured za AI procjenjuje.

Za distributere i operatere u narednom lancu, Ured za AI je manje izravno relevantan, ali njegovi dokumenti s smjernicama, objavljene evaluacije i provedbene odluke uspostavljaju interpretacijski temelj koji prate nacionalna tijela za nadzor tržišta. Poslovni subjekti koji integriraju GPAI modele u visokorizične AI sustave trebaju pomno pratiti objave Ureda za AI, budući da njegovi tehnički nalazi oblikuju kako obveze prelaze s pružatelja GPAI modela na distributere.

Nacionalna nadležna tijela koja se bave visokorizičnim AI sustavima koordiniraju s Uredom za AI putem Europskog odbora za umjetnu inteligenciju, osiguravajući da izvršavanje u svim državama članicama ostane dosljedno i tehnički informirano.

Ključne obveze

• Pružatelji GPAI modela moraju u potpunosti surađivati s informacijskim zahtjevima Ureda za AI, uključujući omogućavanje pristupa tehničkoj dokumentaciji, težinama modela (uz odgovarajuće zaštite povjerljivosti), sažecima podataka za obučavanje i rezultatima evaluacija unutar rokova koje odredi Ured.
• Pružatelji GPAI modela sa sustavnim rizikom moraju se angažirati s pojačanim režimom nadzora Ureda za AI, uključujući evaluacije adversarnih sposobnosti, obavješćivanje o incidentima i izvještavanje o mjerama kibernetičke sigurnosti.
• Svi pružatelji GPAI modela trebaju pratiti i sudjelovati u procesima kodeksa prakse koje vodi Ured za AI, ili održavati dokumentirane dokaze o alternativnoj usklađenosti dovoljne za zadovoljavanje ocjene ekvivalentnosti Ureda.
• Ured za AI sam je obvezan vršiti svoje ovlasti u skladu s dužnim postupkom, razmjernošću i proceduralnim jamstvima utvrđenim u Poglavlju VII Uredbe, uključujući prava obrane za subjekte pod istragom.
• Nacionalna nadležna tijela moraju surađivati s i podupirati prekogranične istrage Ureda za AI te dijeliti relevantne nalaze nadzora tržišta putem uspostavljenih mehanizama koordinacije.
• Europska komisija mora osigurati da je Ured za AI odgovarajuće opremljen tehničkom stručnošću, kadrom i neovisnošću rada za učinkovito izvršavanje svog mandata prema Uredbi.

Odnos s drugim člancima

Članak 64 je institucionalni temelj za arhitekturu upravljanja na razini Unije i mora se čitati u sprezi s okolnim odredbama Naslova VII. Članak 65 uspostavlja Europski odbor za umjetnu inteligenciju, koji radi uz Ured za AI kao glavno savjetodavno tijelo. Članci 66 i 67 stvaraju Savjetodavni forum i Znanstveni panel za AI opće namjene — oba hrane tehničku stručnost u operacije Ureda za AI.

Za nadzor specifičan za GPAI modele, Članak 64 izravno se povezuje s Poglavljem V (Članci 51–56), koji utvrđuje obveze koje Ured za AI provodi. Članci 88 do 94 detaljno uređuju istražne i provedbene ovlasti Ureda za AI, uključujući pristup modelima, korektivne mjere i kazne.

Članak 74 o nadzoru tržišta i Članak 85 o povjerljivosti informacija također su operativno relevantni za to kako Ured za AI provodi svoje aktivnosti. Članak 5 (zabranjene prakse) i Članci 6–51 (visokorizični sustavi) informiraju odgovornosti Ureda za AI za praćenje tržišta, čak i gdje primarno izvršavanje leži na nacionalnim tijelima.

Vremenski okvir usklađenosti

EU AI Akt stupio je na snagu 1. kolovoza 2024., uspostavljajući pravnu osnovu za Ured za AI odmah. Ured je počeo konstituirati svoju strukturu i stručnost tijekom početnog prijelaznog razdoblja.

Veljača 2025.: Odredbe o zabranjenim AI praksama (Članak 5) postale su primjenjive; uloga Ureda za AI u praćenju sustavnih rizika i razvoja tržišta aktivirana je.

Kolovoz 2025.: Obveze GPAI modela prema Poglavlju V postale su u potpunosti primjenjive. Od ovog datuma, provedbeni autoritet Ureda za AI nad pružateljima modela opće namjene AI — uključujući procjene sustavnog rizika, nadzor kodeksa prakse i informacijske zahtjeve — postao je u potpunosti operativan.

Prosinac 2026.: Zahtjevi visokorizičnih AI sustava prema Prilogu I (zakonodavstvo o sigurnosti proizvoda) primjenjuju se; nacionalna tijela za nadzor tržišta aktiviraju se pod koordinacijom Ureda za AI.

Kolovoz 2027.: Preostale obveze visokorizičnih AI sustava prema Prilogu III primjenjuju se. Puno upravljanje na više razina — koje kombinira nadzor Ureda za AI nad GPAI modelima s izvršavanjem nacionalnih tijela visokorizičnih sustava — operativno je na cijelom jedinstvenom tržištu EU.

Pružatelji GPAI modela koji su već bili dostupni prije kolovoza 2025. imali su ograničeni prijelazni aranžman, ali bi sada trebali biti u potpunosti usklađeni sa svim obvezama Poglavlja V i aktivno angažirani s procesima nadzora Ureda za AI.