Člen 51 Uredbe (EU) 2024/1689 — Razvrstitev modelov UI za splošno rabo kot modelov s sistemskim tveganjem. Uradbesedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.
Povzetek uradnega besedila
Člen 51 Uredbe (EU) 2024/1689 (Akt EU o umetni inteligenci) vzpostavlja mehanizem za razvrstitev modelov UI za splošno rabo (GPAI) kot modelov s sistemskim tveganjem. Nahaja se v Naslovu V, ki ustvarja namenjeno regulativno plast za modele GPAI, ločeno od okvira sistemov UI z visokim tveganjem iz Naslova III.
V skladu s členom 51(1) se model GPAI razvrsti kot model s sistemskim tveganjem, kadar izpolnjuje enega od dveh pogojev. Prvič, ima zmogljivosti z velikim vplivom, ocenjene na podlagi ustreznih tehničnih orodij in metodologij, vključno z kazalniki in referenčnimi vrednostmi — z izpodbojno domnevo, da kateri koli model, usposobljen z uporabo kumulativnih računskih operacij, ki presegajo 10^25 FLOPs, spada v to kategorijo. Drugič, ga Komisija označi v skladu s členom 51(2) na podlagi drugih meril, ne glede na to, ali je dosežen računski prag.
Člen 51(2) daje Komisiji pooblastilo za posodobitev računskega praga z delegiranimi akti, ko se tehnološki razvoj nadaljuje, s čimer se zagotavlja, da okvir ostaja usklajen s tržno realnostjo. Ponudniki, ki menijo, da kljub izpolnitvi praga njihov model ne predstavlja sistemskega tveganja, lahko o tem obvestijo Komisijo in predložijo dokazne listine. Komisija nato sprejme končno odločitev. Razvrstitev v skladu s členom 51 sproži dodaten sklop obveznosti iz člena 55, ki predstavlja najzahtevnejšo raven obveznosti v okviru GPAI.
Kaj to pomeni v praksi
Člen 51 neposredno vpliva na ponudnike mejnih modelov GPAI — predvsem na velika laboratorija UI in tehnološka podjetja, ki razvijajo in izdajajo temeljne modele ali velike jezikovne modele, usposobljene v velikem obsegu. Vsak ponudnik, katerega model doseže ali preseže prag računskih operacij usposabljanja 10^25 FLOPs, mora obravnavati ta model kot domnevno nosoč sistemsko tveganje in začeti z načrtovanjem skladnosti z režimom obveznosti iz člena 55, razen če uspešno ovrže domnevo pri Komisiji.
V konkretnih pogojih mora ponudnik revidirati svojo infrastrukturo usposabljanja in dokumentacijo, da ugotovi, ali je bil presežen računski prag. To zahteva vzdrževanje natančnih evidenc o poteh usposabljanja, vključno s kumulativnimi FLOPs. Kadar je nov model v razvoju in se pričakuje, da se bo približal pragu, morajo ponudniki začeti načrtovanje skladnosti pred izdajo in ne po njej, saj obveznosti nastopijo v trenutku, ko je model dan na trg ali v obratovanje.
Za ponudnike, katerih modele Komisija označi na podlagi kvalitativnih razlogov — na primer zaradi zelo široke uporabe na trgu EU, zmogljivosti avtonomnega odločanja ali multimodalne pokritosti — sprožilec ne deluje samodejno na enak način, vendar oznaka povzroča enake pravne posledice. Ponudniki bi zato morali spremljati javni register modelov s sistemskim tveganjem Urada za UI in smernice Komisije o merilih, ki jih uporablja v skladu s členom 51(2).
Ponudniki v vrednostni verigi in podjetja, ki se za dostop opirajo na modele GPAI prek API-jev, bi morali biti prav tako pozorni: če je osnovni model, ki ga uporabljajo, razvrščen v skladu s členom 51, se lahko srečajo z dodatnimi pogodbenimi zahtevami glede razkritja s strani ponudnika in bi morali upoštevati status sistemskega tveganja v lastnih procesih skrbnega pregleda.
Ključne obveznosti
- Spremljanje računskega praga: Ponudniki morajo slediti in dokumentirati kumulativne računske operacije usposabljanja svojih modelov GPAI, da ugotovijo, ali je dosežen prag 10^25 FLOPs, ki sproži izpodbojno domnevo o sistemskem tveganju v skladu s členom 51(1)(a).
- Proaktivno obvestilo: Ponudniki, ki menijo, da njihov model kljub doseganju praga ne predstavlja sistemskega tveganja, morajo proaktivno obvestiti Komisijo z dokaznimi lisitinami, namesto da čakajo na izvršilne ukrepe.
- Skladnost z oznako Komisije: Kadar Komisija označi model kot model s sistemskim tveganjem v skladu s členom 51(2) — bodisi na podlagi računskih operacij bodisi na podlagi drugih meril — mora ponudnik spoštovati to oznako in obveznosti, ki jih sproži.
- Spremljanje posodobitev praga: Ponudniki morajo slediti spremembam računskega praga, ki jih Komisija uvede z delegiranimi akti v skladu s členom 51(2), saj modeli, ki trenutno niso zajeti, morda padejo v področje uporabe, ko se prag prilagodi.
- Pripravljenost za vodenje evidenc: Ponudniki morajo vzdrževati tehnično dokumentacijo, ki zadostuje za dokazovanje, ali so pragi razvrstitve doseženi ali ne, kar podpira tako samoocenjevanje kot morebitni pregled Komisije.
- Komunikacija z nižjimi ponudniki: Ponudniki razvrščenih modelov GPAI s sistemskim tveganjem morajo zagotoviti, da so nižji ponudniki in upravljavci, ki do modela dostopajo prek API-jev ali drugih vmesnikov, obveščeni o statusu razvrstitve modela, kot to zahtevajo obveznosti preglednosti v skladu s členom 53.
Razmerje do drugih členov
Člen 51 deluje kot vstopna določba za najzahtevnejšo raven okvira GPAI. Brati ga je treba skupaj s členom 52, ki podrobneje določa postopek razvrstitve in pooblastila Komisije za označitev, ter s členom 55, ki navaja vsebinske obveznosti — adversarialno testiranje, poročanje o incidentih Uradu za UI, ukrepe kibernetske varnosti in poročanje o energetski učinkovitosti — ki se uporabljajo, ko pride do razvrstitve.
Člen 53 določa temeljne obveznosti, ki veljajo za vse ponudnike modelov GPAI ne glede na razvrstitev sistemskega tveganja, vključno s tehnično dokumentacijo, skladnostjo z zakonom o avtorskih pravicah in objavo povzetkov podatkov za usposabljanje. Člen 51 gradi na tej osnovi z opredelitvijo ponudnikov, za katere velja povišani režim iz člena 55.
Člen 4 daje Komisiji pooblastilo za izdajanje delegiranih aktov za prilagoditev tehničnih podrobnosti, vključno z računskim pragom iz člena 51. Uvodne izjave 110 do 114 Uredbe zagotavljajo razlagalne smernice o tem, zakaj je razvrstitev sistemskega tveganja upravičena za modele z visokimi računskimi operacijami in kako Komisija namerava uporabiti kvalitativna merila označitve. Urad za UI, ustanovljen v skladu s členom 64, ima osrednjo vlogo pri spremljanju skladnosti z okvirom razvrstitve iz člena 51.
Časovni okvir skladnosti
Akt EU o umetni inteligenci je začel veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije. Akt se uporablja v fazah:
- Februar 2025: Začele so se uporabljati prepovedi praks UI z nesprejemljivim tveganjem (člen 5).
- Avgust 2025: Začel se je uporabljati okvir GPAI v skladu z Naslovom V, vključno s členom 51. Ponudniki modelov GPAI s sistemskim tveganjem so morali od tega datuma izpolnjevati postopke razvrstitve in obveznosti iz člena 55. To je najpomembnejši rok, ki se neposredno nanaša na člen 51.
- December 2026: Začnejo se uporabljati obveznosti za sisteme UI z visokim tveganjem, navedene v Prilogi I (sistemi varnostnih komponent, ki se urejajo z obstoječim pravom Unije).
- Avgust 2027: Polna uporaba obveznosti za sisteme UI z visokim tveganjem, navedene v Prilogi III.
Za člen 51 posebej so morali ponudniki obsežnih modelov GPAI od avgusta 2025 dalje oceniti računske operacije usposabljanja in ugotoviti, ali je bil dosežen prag sistemskega tveganja. Urad za UI je pred tem datumom začel izdajati smernice in kodekse ravnanja za podporo ponudnikom pri tej ugotovitvi.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Domneva se, da model UI za splošno rabo predstavlja sistemsko tveganje, če skupna količina računskih operacij, ki se uporablja za njegovo usposabljanje, presega 10^25 operacij s plavajočo vejico (FLOPs). To je primarni kvantitativni prag, ki ga določa člen 51(1)(a). Komisija pa lahko modele označi kot modele s sistemskim tveganjem tudi na podlagi drugih meril, kot so število uporabnikov, stopnja avtonomnosti ali obseg na notranjem trgu.
Da. Kadar ponudnik meni, da njegov model ne izpolnjuje meril, vključno kadar meni, da kljub preseganju računskega praga njegov model ne predstavlja sistemskega tveganja, lahko o tem obvesti Komisijo in zahteva ponovno oceno. Komisija lahko modele označi tudi po uradni dolžnosti ali na podlagi obrazloženega zahtevka Urada za UI. Namen postopka je omogočiti dialog, preden formalna oznaka postane zavezujoča.
Ko je model razvrščen, postane ponudnik zavezan dodatnim obveznostim iz člena 55, ki vključujejo adversarialno testiranje (red-teaming), poročanje o incidentih Uradu za UI, zaščito kibernetske varnosti in poročanje o energetski učinkovitosti. Te obveznosti so poleg temeljnih zahtev glede preglednosti in avtorskih pravic, ki se uporabljajo za vse ponudnike modelov UI za splošno rabo.
Domneva na podlagi računskih operacij in okvir sistemskega tveganja se načeloma lahko uporabljata za kateri koli model GPAI, vključno z odprtokodnimi. Vendar Akt EU o umetni inteligenci določa nekatere olajšave za ponudnike odprtokodnih modelov GPAI v skladu s členom 53(2), pod pogojem, da so izpolnjeni posebni pogoji. Ponudniki odprtokodnih modelov, razvrščenih kot modeli s sistemskim tveganjem, ostajajo zavezani obveznostim člena 55.
Evropska komisija ima pooblastilo za označitev modelov kot modelov s sistemskim tveganjem, bodisi ker presegajo prag računskih operacij usposabljanja 10^25 FLOPs (kar sproži izpodbojno domnevo) bodisi na podlagi kvalitativne ocene. Urad za UI, ustanovljen v okviru Komisije, ima osrednjo nadzorno in postopkovno vlogo v tem procesu.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.