Članak 51. Uredbe (EU) 2024/1689 — Klasifikacija modela UI opće namjene kao modela sa sistemskim rizikom. Službeni tekst, praktična interpretacija, ključne obveze i implikacije za usklađenost.
Sažetak službenog teksta
Članak 51. Uredbe (EU) 2024/1689 (Zakon EU o UI) uspostavlja mehanizam klasifikacije modela UI opće namjene kao modela sa sistemskim rizikom. Smješten je unutar Glave V., koja stvara poseban regulatorni sloj za modele UI opće namjene koji je različit od okvira za visokorizične sustave UI iz Glave III.
Prema Članku 51. stavku 1., model UI opće namjene klasificira se kao model koji predstavlja sistemski rizik kada ispunjava jedan od dva uvjeta. Prvo, ima visoko učinkovite sposobnosti procijenjene na temelju odgovarajućih tehničkih alata i metodologija, uključujući pokazatelje i referentne vrijednosti — uz pobivu pretpostavku da svaki model treniran s ukupnim računalnim resursima od više od 10^25 FLOPs spada u ovu kategoriju. Drugo, Komisija ga je odredila prema Članku 51. stavku 2. na temelju drugih kriterija, bez obzira je li prag računalnih resursa dostignut.
Članak 51. stavak 2. daje Komisiji ovlast da ažurira prag računalnih resursa putem delegiranih akata kako se tehnološki razvoj bude odvijao, osiguravajući da okvir ostane kalibriran prema tržišnoj stvarnosti. Pružatelji koji smatraju da, unatoč ispunjavanju praga, njihov model ne predstavlja sistemski rizik, mogu obavijestiti Komisiju i dostaviti potkrijepljujuće dokaze. Komisija tada donosi konačnu odluku. Klasifikacija prema Članku 51. aktivira dodatni skup obveza sadržanih u Članku 55., koji predstavlja najzahtjevniji sloj obveza u okviru za modele opće namjene.
Što ovo znači u praksi
Članak 51. izravno utječe na pružatelje graničnih modela UI opće namjene — ponajprije, velike laboratorije za UI i tehnološke tvrtke koje razvijaju i objavljuju temeljne modele ili velike jezične modele trenirane u velikom opsegu. Svaki pružatelj čiji model dostiže ili premašuje prag od 10^25 FLOPs za treniranje mora taj model tretirati kao model koji pretpostavljeno nosi sistemski rizik i početi se pripremati za usklađenost s režimom obveza prema Članku 55., osim ako uspješno pobije pretpostavku pred Komisijom.
Konkretno, pružatelj bi trebao revidirati svoju infrastrukturu treniranja i dokumentaciju kako bi utvrdio je li prag računalnih resursa prijeđen. To zahtijeva vođenje točnih evidencija o sesijama treniranja, uključujući ukupne FLOPs. Tamo gdje je novi model u razvoju i očekuje se da će se približiti pragu, pružatelji bi trebali početi s planiranjem usklađenosti prije objave, a ne nakon nje, budući da se obveze vežu u trenutku stavljanja modela na tržište ili puštanja u upotrebu.
Za pružatelje čiji su modeli odabrani od strane Komisije na kvalitativnoj osnovi — na primjer, zbog vrlo široke raspoređenosti na EU tržištu, sposobnosti autonomnog odlučivanja ili multimodalnog dosega — okidač nije samo-izvršni na isti način, ali designacija ima identične pravne posljedice. Pružatelji bi stoga trebali pratiti javni registar Ureda za UI s modelima sistemskog rizika i smjernice Komisije o kriterijima koje primjenjuje prema Članku 51. stavku 2.
Nizvodne korisnike i tvrtke koje se oslanjaju na modele UI opće namjene putem API pristupa također treba svjesno upozoriti: ako je temeljni model koji koriste klasificiran prema Članku 51., mogu se suočiti s dodatnim ugovornim zahtjevima za otkrivanje od strane pružatelja i trebali bi faktorizirati status sistemskog rizika u vlastite procese dubinske analize.
Ključne obveze
- Praćenje praga računalnih resursa: Pružatelji moraju pratiti i dokumentirati ukupne računalne resurse za treniranje svojih modela UI opće namjene kako bi utvrdili je li dostignut prag od 10^25 FLOPs, koji aktivira pobivu pretpostavku sistemskog rizika prema Članku 51. stavku 1. točki (a).
- Proaktivno obavještavanje: Pružatelji koji smatraju da njihov model ne predstavlja sistemski rizik unatoč ispunjavanju praga moraju proaktivno obavijestiti Komisiju s potkrijepljujućim dokazima, a ne čekati na izvršne mjere.
- Usklađenost s designacijom Komisije: Tamo gdje Komisija odredi model kao model koji predstavlja sistemski rizik prema Članku 51. stavku 2. — bilo na temelju računalnih resursa ili drugih kriterija — pružatelj mora postupiti u skladu s tom designacijom i obvezama koje ona aktivira.
- Praćenje ažuriranja praga: Pružatelji moraju pratiti promjene praga računalnih resursa koje Komisija uvodi putem delegiranih akata prema Članku 51. stavku 2., budući da modeli koji trenutno nisu obuhvaćeni mogu doći u opseg primjene kako se prag bude prilagođavao.
- Spremnost za vođenje evidencije: Pružatelji moraju održavati tehničku dokumentaciju dostatnu za dokazivanje jesu li ili nisu dostigli pragove klasifikacije, podupirući kako samoprocjenu, tako i svaku reviziju Komisije.
- Nizvodna komunikacija: Pružatelji klasificiranih modela UI opće namjene sa sistemskim rizikom moraju osigurati da su nizvorni pružatelji i korisnici koji pristupaju modelu putem API-ja ili drugih sučelja obaviješteni o statusu klasifikacije modela, u skladu s obvezama transparentnosti prema Članku 53.
Odnos prema ostalim člancima
Članak 51. funkcionira kao ulazna odredba za najzahtjevniji sloj okvira za modele UI opće namjene. Mora se čitati zajedno s Člankom 52., koji detaljnije utvrđuje postupak klasifikacije i ovlasti Komisije za designaciju, i Člankom 55., koji navodi sadržajne obveze — adversarijalno testiranje, izvještavanje o incidentima Uredu za UI, mjere kibernetičke sigurnosti i izvještavanje o energetskoj učinkovitosti — koje se primjenjuju nakon klasifikacije.
Članak 53. utvrđuje osnovne obveze primjenjive na sve pružatelje modela UI opće namjene bez obzira na klasifikaciju sistemskog rizika, uključujući tehničku dokumentaciju, usklađenost s autorskim pravom i objavu sažetaka podataka o treniranju. Članak 51. nadograduje ovaj temelj identificirajući koji pružatelji se suočavaju s povišenim režimom prema Članku 55.
Članak 4. daje Komisiji ovlast za izdavanje delegiranih akata radi prilagodbe tehničkih detalja, uključujući prag računalnih resursa iz Članka 51. Uvodne izjave 110. do 114. Uredbe pružaju interpretativne smjernice o tome zašto je klasifikacija sistemskog rizika opravdana za modele s visokim računalnim resursima i kako Komisija namjerava primijeniti kvalitativne kriterije designacije prema Članku 51. stavku 2. Ured za UI osnovan prema Članku 64. igra središnju ulogu u nadzoru usklađenosti s okvirom klasifikacije prema Članku 51.
Vremenski plan usklađenosti
Zakon EU o UI stupio je na snagu 1. kolovoza 2024., dvadeset dana nakon objave u Službenom listu Europske unije. Zakon se primjenjuje postupno:
- Veljača 2025.: Zabrane praksi UI neprihvatljivog rizika (Članak 5.) postale su primjenjive.
- Kolovoz 2025.: Okvir za modele UI opće namjene prema Glavi V., uključujući Članak 51., postao je primjenjiv. Pružatelji modela UI opće namjene sa sistemskim rizikom bili su dužni biti usklađeni s postupcima klasifikacije i obvezama iz Članka 55. od ovog datuma. Ovo je najizravniji relevantni rok za Članak 51.
- Prosinac 2026.: Primjenjuju se obveze za visokorizične sustave UI navedene u Prilogu I. (sustavi sigurnosnih komponenti regulirani prema postojećem pravu Unije).
- Kolovoz 2027.: Potpuna primjena obveza za visokorizične sustave UI navedene u Prilogu III.
Što se tiče Članka 51. posebice, pružatelji velikih modela UI opće namjene trebali su procijeniti svoje računalne resurse za treniranje i utvrditi je li dostignut prag sistemskog rizika od kolovoza 2025. Ured za UI počeo je izdavati smjernice i kodekse prakse uoči tog datuma kako bi pomogao pružateljima u donošenju te odluke.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Pretpostavlja se da model UI opće namjene predstavlja sistemski rizik ako ukupna količina računalnih resursa korištenih za njegovo treniranje premašuje 10^25 operacija s pomičnim zarezom (FLOPs). Ovo je primarni kvantitativni prag postavljen Člankom 51. stavkom 1. točkom (a). Međutim, Komisija može i odrediti modele kao modele sa sistemskim rizikom na temelju drugih kriterija, kao što su broj korisnika, stupanj autonomije ili doseg na unutarnjem tržištu.
Da. Tamo gdje pružatelj smatra da njegov model ne ispunjava kriterije, uključujući slučajeve gdje smatra da unatoč prekoračenju praga računalnih resursa njegov model ne predstavlja sistemski rizik, može obavijestiti Komisiju i zatražiti ponovnu procjenu. Komisija može također odrediti modele ex officio ili na temelju obrazloženog zahtjeva Ureda za UI. Postupak je zamišljen kao dijalog prije nego što designacija postane obvezujuća.
Nakon klasifikacije, pružatelj postaje podložan dodatnim obvezama navedenim u Članku 55., koje uključuju adversarijalno testiranje (crveni tim), izvještavanje o incidentima Uredu za UI, zaštitu kibernetičke sigurnosti i izvještavanje o energetskoj učinkovitosti. Ove obveze dolaze uz osnovne zahtjeve transparentnosti i autorskih prava koji se primjenjuju na sve pružatelje modela UI opće namjene.
Pretpostavka na temelju računalnih resursa i okvir sistemskog rizika mogu se u načelu primijeniti na bilo koji model opće namjene, uključujući modele otvorenog koda. Međutim, Zakon EU o UI pruža određena olakšanja za pružatelje modela otvorenog koda opće namjene prema Članku 53. stavku 2., pod uvjetom da su ispunjeni posebni uvjeti. Pružatelji modela otvorenog koda koji su klasificirani kao modeli sa sistemskim rizikom ostaju podložni obvezama Članka 55.
Europska komisija ima ovlast odrediti modele kao modele koji predstavljaju sistemski rizik, bilo zato što premašuju prag od 10^25 FLOPs za treniranje (čime se aktivira pobiva pretpostavka) ili na temelju kvalitativne procjene. Ured za UI, osnovan unutar Komisije, igra središnju nadzornu i procesnu ulogu u ovom postupku.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.