Članak 53. Uredbe (EU) 2024/1689 — Obveze pružatelja modela umjetne inteligencije opće namjene sa sistemskim rizikom. Službeni tekst, praktično tumačenje, ključne obveze i implikacije za usklađenost.
Sažetak službenog teksta
Članak 53. Uredbe (EU) 2024/1689 utvrđuje obveze koje se primjenjuju isključivo na pružatelje modela umjetne inteligencije (UI) opće namjene klasificiranih kao modeli koji predstavljaju sistemski rizik u skladu s člankom 51. Radi se o modelima obučenim uz izračun koji premašuje 10^25 operacija s pomičnim zarezom (FLOPs), ili modelima koje je Ured za UI označio na temelju procjene sposobnosti ili učinka.
Uz temeljne obveze primjenjive na sve pružatelje modela GPAI prema članku 52., pružatelji obuhvaćeni člankom 53. moraju: provoditi evaluacije modela, uključujući protivničko testiranje provedeno u skladu s normiranim protokolima ili odobrenim metodologijama; procjenjivati i ublažavati sistemske rizike na razini Unije; bez nepotrebnog odgađanja prijavljivati ozbiljne incidente i kvarove Uredu za UI; osigurati odgovarajuću razinu zaštite kibernetičke sigurnosti za model, njegovu infrastrukturu i fizičko okruženje; te dokumentirati rezultate evaluacija modela i staviti te rezultate na raspolaganje Uredu za UI na zahtjev.
Članak 53. stavak 2. predviđa da se pružatelji mogu osloniti na kodekse prakse donesene prema članku 56. radi dokazivanja usklađenosti. Europska komisija ovlaštena je donositi delegirane akte kojima se precizira sadržaj i postupci evaluacija te prilagođavati pragove kako se znanstvena spoznaja razvija. Ured za UI prati usklađenost i može zahtijevati daljnje informacije ili korektivne mjere.
Što to znači u praksi
Članak 53. stvara posebnu razinu usklađenosti za najsposobnije i potencijalno najutjecajnije modele GPAI na tržištu EU-a. Svaka organizacija — bez obzira na mjesto poslovnog nastana — koja takav model stavlja na raspolaganje primjeniteljima ili krajnjim korisnicima u EU-u mora procijeniti prelazi li prag sistemskog rizika.
Za pružatelje iznad praga izračuna od 10^25 FLOPs-a, obveze su automatske. Za pružatelje ispod tog praga, Ured za UI i dalje može pokrenuti obveze iz članka 53. nakon procjene od slučaja do slučaja temeljene na pokazateljima kao što su broj korisnika, širina sposobnosti ili integracija u kritične sektore.
U praksi, usklađenost zahtijeva uspostavu čvrstih unutarnjih procesa: programa evaluacije modela sposobnog za provođenje red-teaminga i protivničkog testiranja prije i nakon postavljanja; registra sistemskih rizika i povezanog plana ublažavanja; okvira kibernetičke sigurnosti koji pokriva težine modela, API-je i infrastrukturu za obučavanje; te postupka reagiranja na incidente povezanog s obvezom izvještavanja prema Uredu za UI.
Konkretno, pružatelj naprednog velikog jezičnog modela dostupnog putem API-ja primjeniteljima s poslovnim nastanom u EU-u mora provoditi protivničko testiranje — kao što su pokušaji zaobilaženja i izvlačenja sposobnosti za opasni sadržaj — dokumentirati rezultate, pohraniti ih i moći ih podijeliti s Uredom za UI. Ako model proizvede izlazne podatke koji uzrokuju ili gotovo uzrokuju ozbiljnu štetu osobi ili kritičnoj infrastrukturi, taj incident mora biti brzo prijavljen. Sudjelovanje u kodeksu prakse odobrenom od strane Ureda za UI prema članku 56. pruža strukturiran put za dokazivanje usklađenosti bez čekanja na usklađene norme.
Ključne obveze
- Evaluacije modela i protivničko testiranje: Provođenje temeljitih evaluacija, uključujući red-teaming i protivničko testiranje, korištenjem normiranih protokola ili onih koje je odobrio Ured za UI, prije i nakon značajnih ažuriranja modela.
- Procjena i ublažavanje sistemskog rizika: Utvrđivanje, analiza i ublažavanje potencijalnih sistemskih rizika na razini Unije koji mogu nastati razvojem, stavljanjem na tržište ili upotrebom modela.
- Izvještavanje o ozbiljnim incidentima: Bez nepotrebnog odgađanja prijavljivanje Uredu za UI svakog ozbiljnog incidenta ili kvara povezanog s modelom GPAI sa sistemskim rizikom, uključujući informacije o incidentu i poduzetim korektivnim mjerama.
- Zaštita kibernetičke sigurnosti: Provedba i održavanje odgovarajućih mjera kibernetičke sigurnosti za zaštitu modela, njegove fizičke infrastruktúre i lanca opskrbe — uključujući težine modela, API-je i cjevovode za obučavanje — razmjerno identificiranim rizicima.
- Dokumentacija i transparentnost prema Uredu za UI: Vođenje evidencije rezultata evaluacije, metodologija testiranja i mjera ublažavanja rizika; stavljanje istih na raspolaganje Uredu za UI na zahtjev.
- Put usklađenosti putem kodeksa prakse: Dokazivanje sukladnosti s obvezama iz članka 53. pridržavanjem kodeksa prakse razvijenih prema članku 56., do dostupnosti usklađenih normi.
Odnos prema ostalim člancima
Članak 53. ne može se čitati izolirano. Izravno se nadovezuje na članak 51., koji definira kriterije i postupke za klasifikaciju modela GPAI kao modela koji predstavlja sistemski rizik — uključujući prag izračuna od 10^25 FLOPs-a i diskrecijsku ovlast označavanja Ureda za UI. Temeljne obveze članka 52. ostaju u potpunosti primjenjive uz članak 53.; potonji dodaje daljnji sloj umjesto da zamjenjuje prethodni.
Članak 55. uređuje kvalificirane pretpostavke sukladnosti, dok članak 56. uspostavlja mehanizam kodeksa prakse na koji članak 53. stavak 2. izričito upućuje kao na put usklađenosti. Nadzorna uloga Ureda za UI nad obvezama iz članka 53. utemeljena je u člancima 88. do 90., koji utvrđuju ovlasti i postupke provedbe. Za pružatelje koji su ujedno i primjenitelji visokorizičnih sustava UI, zahtjevi Poglavlja III. (članci 9.–16.) o upravljanju rizicima i tehničkoj dokumentaciji mogu se preklapati s radom na ublažavanju sistemskog rizika koji zahtijeva članak 53., a koordinacija između timova za usklađenost preporučuje se radi izbjegavanja dupliciranja.
Vremenski okvir usklađenosti
Akt EU-a o UI stupio je na snagu 1. kolovoza 2024. (dvadeset dana nakon objave u Službenom listu 12. srpnja 2024.). Članak 53., kao dio Glave V. kojom se uređuju modeli UI opće namjene, počeo je s primjenom 2. kolovoza 2025. — dvanaest mjeseci nakon stupanja na snagu, u skladu s člankom 113. stavkom 3.
To znači da su pružatelji modela GPAI sa sistemskim rizikom trebali imati svoje programe evaluacije, postupke izvještavanja o incidentima i okvire kibernetičke sigurnosti operativne do tog datuma. Fazni raspored primjene za referencu: zabranjene prakse UI prema članku 5. primjenjuju se od 2. veljače 2025. (šest mjeseci); obveze modela GPAI uključujući članak 53. od 2. kolovoza 2025. (dvanaest mjeseci); obveze koje se odnose na visokorizične sustave UI prema Prilogu I. od 2. kolovoza 2026. (dvadeset i četiri mjeseca); te preostale obveze visokorizičnih sustava UI od 2. kolovoza 2027. (trideset i šest mjeseci). Pružatelji bi također trebali pratiti delegirane akte Europske komisije koji mogu precizirati zahtjeve evaluacije prema članku 53. ili prilagoditi prag izračuna kako se znanstvena spoznaja o sposobnostima graničnih modela razvija.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Članak 53. primjenjuje se na pružatelje modela UI opće namjene koji su klasificirani kao modeli koji predstavljaju sistemski rizik — bilo zato što su obučeni uz kumulativnu količinu izračuna veću od 10^25 FLOPs-a, ili zato što ih je Ured za UI tako označio nakon evaluacije u skladu s člankom 51.
Članak 52. utvrđuje temeljne obveze za sve pružatelje modela UI opće namjene, uključujući zahtjeve za dokumentacijom i transparentnošću. Članak 53. nameće dodatne, strože obveze isključivo pružateljima modela GPAI sa sistemskim rizikom, uključujući protivničko testiranje, izvještavanje o incidentima i mjere kibernetičke sigurnosti.
Članak 53. ne zahtijeva ograničavanje pristupa, ali zahtijeva od pružatelja da primijene politike i tehničke mjere razmjerne sistemskom riziku. To može uključivati kontrole pristupa tamo gdje je to opravdano nalazima protivničkog testiranja ili procjenom rizika kibernetičke sigurnosti.
Ozbiljan incident prema članku 53. odnosi se na svaki incident ili kvar modela GPAI sa sistemskim rizikom koji rezultira, ili za koji postoji razumna vjerojatnost da će rezultirati, smrću, ozbiljnom štetom za zdravlje, ozbiljnim poremećajem kritične infrastrukture, materijalnom štetom ili značajnim štetnim učincima na temeljna prava. Pružatelji moraju bez nepotrebnog odgađanja prijaviti takve incidente Uredu za UI.
Članak 53. počeo je s primjenom 2. kolovoza 2025., dvanaest mjeseci nakon što je Uredba stupila na snagu 1. kolovoza 2024. To odražava specifičan vremenski okvir Akta EU-a o UI za odredbe Glave V. kojima se uređuju modeli UI opće namjene.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.