Člen 53 Uredbe (EU) 2024/1689 — Obveznosti ponudnikov modelov UI za splošne namene s sistemskim tveganjem. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.
Povzetek uradnega besedila
Člen 53 Uredbe (EU) 2024/1689 določa obveznosti, ki se uporabljajo izključno za ponudnike modelov UI za splošne namene (GPAI), razvrščenih kot tiste, ki predstavljajo sistemsko tveganje v skladu s Členom 51. To so modeli, usposobljeni z računalniško močjo, ki presega 10^25 operacij s plavajočo vejico (FLOP), ali modeli, ki jih je Urad za UI določil na podlagi ocene zmogljivosti ali vpliva.
Poleg temeljnih obveznosti, ki se v skladu s Členom 52 nanašajo na vse ponudnike modelov GPAI, morajo ponudniki, zajeti s Členom 53: izvajati vrednotenja modelov, vključno z adversarialnim testiranjem, izvedenim v skladu s standardiziranimi protokoli ali odobrenimi metodologijami; oceniti in zmanjšati sistemska tveganja na ravni Unije; brez nepotrebnega odlašanja poročati Uradu za UI o resnih incidentih in nepravilnem delovanju; zagotoviti ustrezno raven zaščite kibernetske varnosti za model, njegovo infrastrukturo in fizično okolje; ter dokumentirati rezultate vrednotenj modelov in te rezultate dati na voljo Uradu za UI na zahtevo.
Člen 53(2) določa, da se ponudniki lahko pri dokazovanju skladnosti oprejo na kodekse ravnanja, sprejete v skladu s Členom 56. Evropska komisija je pooblaščena za izdajanje delegiranih aktov, ki določajo vsebino in postopke vrednotenj, ter za prilagajanje pragov, ko se znanstveno razumevanje razvija. Urad za UI spremlja skladnost in lahko zahteva nadaljnje informacije ali popravne ukrepe.
Kaj to pomeni v praksi
Člen 53 vzpostavlja posebno raven skladnosti za najzmogljivejše in potencialno najvplivnejše modele GPAI na trgu EU. Vsaka organizacija — ne glede na to, kje ima sedež — ki tak model daje na voljo distributerjem ali končnim uporabnikom v EU, mora oceniti, ali presega prag sistemskega tveganja.
Za ponudnike nad pragom računalniške moči 10^25 FLOP so obveznosti samodejne. Za ponudnike pod tem pragom lahko Urad za UI vseeno sproži obveznosti iz Člena 53 po oceni od primera do primera na podlagi kazalnikov, kot so število uporabnikov, obseg zmogljivosti ali integracija v kritične sektorje.
V praksi skladnost zahteva vzpostavitev robustnih notranjih procesov: program vrednotenja modela, ki je sposoben izvajati red-teaming in adversarialno sondiranje pred in po namestitvi; register sistemskih tveganj in s tem povezan načrt zmanjševanja tveganj; okvir kibernetske varnosti, ki zajema uteži modela, API-je in infrastrukturo usposabljanja; ter postopek odzivanja na incidente, povezan z obveznostjo poročanja Uradu za UI.
Konkretno mora ponudnik mejnega velikega jezikovnega modela, danega na voljo prek API distributerjem s sedežem v EU, izvajati adversarialno testiranje — kot so poskusi jailbreaka in izsiljevanje zmogljivosti za nevarne vsebine — dokumentirati rezultate, jih hraniti in biti sposoben deliti z Uradom za UI. Če model ustvari izhode, ki povzročijo ali skoraj povzročijo resno škodo osebi ali kritični infrastrukturi, je treba ta incident nemudoma poročati. Sodelovanje pri kodeksu ravnanja, odobrenem s strani Urada za UI v skladu s Členom 56, zagotavlja strukturirano pot za dokazovanje skladnosti brez čakanja na harmonizirane standarde.
Ključne obveznosti
- Vrednotenja modelov in adversarialno testiranje: Izvajanje temeljitih vrednotenj, vključno z red-teamingom in adversarialnim testiranjem, z uporabo standardiziranih protokolov ali protokolov, ki jih je odobril Urad za UI, pred in po pomembnih posodobitvah modela.
- Ocena in zmanjšanje sistemskega tveganja: Prepoznavanje, analiza in zmanjšanje potencialnih sistemskih tveganj na ravni Unije, ki lahko izhajajo iz razvoja, dajanja na trg ali uporabe modela.
- Poročanje o resnih incidentih: Poročanje Uradu za UI brez nepotrebnega odlašanja o vsakem resnem incidentu ali nepravilnem delovanju, povezanem z modelom GPAI s sistemskim tveganjem, vključno z informacijami o incidentu in sprejetih popravnih ukrepih.
- Zaščita kibernetske varnosti: Izvajanje in vzdrževanje ustreznih ukrepov kibernetske varnosti, ki ščitijo model, njegovo fizično infrastrukturo in dobavno verigo — vključno z utežmi modela, API-ji in cevovodi usposabljanja — sorazmerno z ugotovljenimi tveganji.
- Dokumentacija in preglednost do Urada za UI: Vodenje evidenc rezultatov vrednotenj, metodologij testiranja in ukrepov za zmanjšanje tveganj; dajanje le-teh na voljo Uradu za UI na zahtevo.
- Pot skladnosti prek kodeksov ravnanja: Dokazovanje skladnosti z obveznostmi Člena 53 z upoštevanjem kodeksov ravnanja, razvitih v skladu s Členom 56, v pričakovanju razpoložljivosti harmoniziranih standardov.
Razmerje do drugih členov
Člena 53 ni mogoče brati ločeno. Neposredno temelji na Členu 51, ki opredeljuje merila in postopke za razvrščanje modela GPAI kot tistega, ki predstavlja sistemsko tveganje — vključno s pragom računalniške moči 10^25 FLOP in diskrecijskim pooblastilom Urada za UI za določanje. Temeljne obveznosti Člena 52 ostajajo v celoti v uporabi vzporedno s Členom 53; slednji dodaja nadaljnjo plast namesto, da bi nadomestil prvega.
Člen 55 ureja kvalificirane domneve o skladnosti, medtem ko Člen 56 vzpostavlja mehanizem kodeksov ravnanja, na katerega Člen 53(2) izrecno napotuje kot pot skladnosti. Nadzorna vloga Urada za UI glede obveznosti iz Člena 53 je utemeljena v Členih 88 do 90, ki določajo izvršilna pooblastila in postopke. Za ponudnike, ki so hkrati distributerji visokotveganih sistemov UI, se zahteve Poglavja III (Členi 9–16) o upravljanju tveganj in tehnični dokumentaciji lahko prekrivajo z delom zmanjševanja sistemskega tveganja, ki ga zahteva Člen 53, in koordinacija med skladnostnimi ekipami je priporočljiva, da se izogne podvajanju.
Časovni okvir skladnosti
Uredba EU o UI je začela veljati 1. avgusta 2024 (dvajset dni po objavi v Uradnem listu 12. julija 2024). Člen 53, kot del Naslova V, ki ureja modele UI za splošne namene, je postal uporaben 2. avgusta 2025 — dvanajst mesecev po začetku veljavnosti, v skladu s Členom 113(3).
To pomeni, da so morali ponudniki modelov GPAI s sistemskim tveganjem do tega datuma vzpostaviti programe vrednotenja, postopke poročanja o incidentih in okvire kibernetske varnosti. Fazni urnik uporabe za referenco: prepovedane prakse UI v skladu s Členom 5 so se uporabljale od 2. februarja 2025 (šest mesecev); obveznosti glede modelov GPAI, vključno s Členom 53, od 2. avgusta 2025 (dvanajst mesecev); obveznosti glede visokotveganih sistemov UI v skladu s Prilogo I od 2. avgusta 2026 (štiriindvajset mesecev); in preostale obveznosti glede visokotveganih sistemov UI od 2. avgusta 2027 (šestintrideset mesecev). Ponudniki bi morali prav tako spremljati delegirane akte Evropske komisije, ki lahko izpopolnijo zahteve vrednotenja Člena 53 ali prilagodijo prag računalniške moči, ko se bo znanstveno razumevanje zmogljivosti mejnih modelov razvijalo.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Člen 53 se nanaša na ponudnike modelov UI za splošne namene, ki so bili razvrščeni kot modeli, ki predstavljajo sistemsko tveganje — bodisi ker so bili usposobljeni z uporabo kumulativne količine računanja, večje od 10^25 FLOP, bodisi ker jih je Urad za UI kot take določil po oceni v skladu s Členom 51.
Člen 52 določa temeljne obveznosti za vse ponudnike modelov UI za splošne namene, vključno z zahtevami glede dokumentacije in preglednosti. Člen 53 nalaga dodatne, strožje obveznosti izključno ponudnikom modelov GPAI s sistemskim tveganjem, vključno z adversarialnim testiranjem, poročanjem o incidentih in ukrepi kibernetske varnosti.
Člen 53 ne nalaga omejevanja dostopa, zahteva pa, da ponudniki izvajajo politike in tehnične ukrepe, sorazmerne s sistemskim tveganjem. To lahko vključuje nadzor dostopa, kadar je to utemeljeno z ugotovitvami adversarialnega testiranja ali oceno tveganja kibernetske varnosti.
Resni incident v skladu s Členom 53 se nanaša na vsak incident ali nepravilno delovanje modela GPAI s sistemskim tveganjem, ki povzroči ali ima razumno verjetnost, da bo povzročilo smrt, resno škodo za zdravje, resne motnje kritične infrastrukture, premoženjsko škodo ali znatne negativne učinke na temeljne pravice. Ponudniki morajo take incidente poročati Uradu za UI brez nepotrebnega odlašanja.
Člen 53 je postal uporaben 2. avgusta 2025, dvanajst mesecev po začetku veljavnosti Uredbe 1. avgusta 2024. To odraža specifični časovni okvir Uredbe EU o UI za določbe Naslova V, ki ureja modele UI za splošne namene.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.