Člen 12 Uredbe (EU) 2024/1689 — Vodenje evidenc. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.
Povzetek uradnega besedila
Člen 12 Uredbe (EU) 2024/1689 vzpostavlja obvezne zahteve glede vodenja evidenc za sisteme umetne inteligence visokega tveganja. Člen se nahaja v naslovu III, poglavju 2, ki določa tehnične zahteve in zahteve glede upravljanja, ki jih morajo sistemi umetne inteligence visokega tveganja izpolnjevati, preden so dani na trg EU ali v obratovanje.
Osrednja obveznost je, da morajo biti sistemi umetne inteligence visokega tveganja zasnovani in razviti z zmogljivostmi beleženja, ki omogočajo samodejno beleženje dogodkov — ki se pogosto imenujejo dnevniki — v operativni življenjski dobi sistema. Ti dnevniki služijo dvojnemu namenu: podpirajo nadzor po dajanju na trg s strani ponudnika v skladu s členom 72 in nacionalnim pristojnim organom omogočajo izvajanje njihovih nadzornih in preiskovalnih funkcij.
Člen 12(2) določa, da morajo zmogljivosti beleženja vsaj beležiti: obdobje vsake uporabe sistema (datum in uro začetka in konca), referenčno zbirko podatkov, s katero so bili preverjeni vhodni podatki, kadar je to primerno, vhodne podatke, ki so privedli do določenega rezultata, in — pri sistemih biometrične identifikacije — identiteto fizičnih oseb, vključenih v preverjanje rezultatov.
Člen jasno nalaga obveznost zasnove ponudnikom. Beleženje mora biti vgrajeno v sistem že pri gradnji, ne dodano naknadno. To odraža širšo filozofijo zasnove Uredbe. Upravljavci, ki te sisteme uvajajo, imajo dopolnilne obveznosti v skladu s členom 26 za ohranitev dnevnikov, ustvarjenih med njihovo uporabo sistema, v obsegu, v katerem so ti dnevniki pod njihovim nadzorom.
Kaj to pomeni v praksi
Za ponudnike, ki razvijajo ali dajejo na trg EU sisteme umetne inteligence visokega tveganja, člen 12 zahteva, da se odločitve na inženirski ravni sprejmejo v fazi zasnove, ne po uvedbi. Beleženje mora biti arhitekturna lastnost izdelka.
Prizadete stranke. Vsaka organizacija, ki razvija, daje na trg ali v obratovanje sistem umetne inteligence visokega tveganja, kot je opredeljeno v členu 6 in Prilogi III, je predmet člena 12. To vključuje sisteme, ki se uporabljajo pri presejalnem postopku za zaposlovanje, kreditnem ocenjevanju, biometrični identifikaciji, upravljanju kritične infrastrukture, izobraževalnem ocenjevanju, kazenskem pregonu, mejni kontroli in upravljanju pravosodja, med drugim. Upravljavci — organizacije, ki uvajajo sistem umetne inteligence visokega tveganja ponudnika v lastnem kontekstu — imajo sekundarne obveznosti glede vodenja dnevnikov, ki jih nadzorujejo.
Konkretna zahtevana dejanja. Ponudnik mora implementirati samodejno beleženje, ki zajema zahtevane podatkovne točke brez ročnega posredovanja. Na primer, ponudnik orodja za presejanje življenjepisov s pomočjo umetne inteligence mora zagotoviti, da sistem beleži vsako sejo zaposlovanja, različico nabora podatkov, ki je bila uporabljena za usposabljanje ali kalibracijo modela, in vhode (profile kandidatov), ki so ustvarili vsak izhod (razvrstitev ali priporočilo). Upravljavec, ki uvaja to orodje, mora hraniti te dnevnike in jih dati organom na voljo na zahtevo.
Preiskovalna koristnost. Dnevniki obstajajo predvsem za omogočanje retrospektivne analize. Če sistem ustvari diskriminatoren rezultat ali povzroči škodo, morajo regulatorji biti sposobni rekonstruirati, kaj se je zgodilo. Dnevniki, ki so nepopolni, prepisani ali nedostopni, spodkopavajo ta namen in izpostavljajo tako ponudnika kot upravljavca tveganju izvrševanja.
Sorazmernost. Posebni obseg tega, kar je treba beležiti, je kalibriran glede na vrsto sistema. Biometrični sistemi se soočajo z najbolj podrobnimi zahtevami. Ponudniki bi morali dokumentirati svoje odločitve o zasnovi beleženja v tehnični dokumentaciji, ki jo zahteva člen 11.
Ključne obveznosti
- Beleženje po zasnovi. Sistemi umetne inteligence visokega tveganja morajo biti zasnovani in razviti z avtomatskimi zmogljivostmi beleženja dogodkov, vgrajenimi v arhitekturo sistema pred dajanjem na trg ali uvajanjem.
- Minimalna vsebina dnevnikov. Dnevniki morajo vsaj zajemati: operativno obdobje vsake seje uporabe, referenčno zbirko podatkov, ki se uporablja za preverjanje vhodnih podatkov, kadar je primerno, vhodne podatke, ki so ustvarili vsak izhod ali odločitev, in — za sisteme biometrične identifikacije — identitete fizičnih oseb, ki so preverile rezultate.
- Hramba dnevnikov s strani upravljavcev. Upravljavci morajo hraniti dnevnike, ustvarjene med njihovo uporabo sistema umetne inteligence visokega tveganja, v obdobju, ki ga zahteva veljavna zakonodaja, in vsaj toliko časa, kolikor je potrebno za podporo nadzora po dajanju na trg in regulatornih preiskav.
- Dostopnost za organe. Dnevniki morajo biti na zahtevo na voljo nacionalnim pristojnim organom za olajšanje regulatornega nadzora, preiskave incidentov in dejavnosti tržnega nadzora.
- Sledljivost rezultatov. Sistem beleženja mora omogočati rekonstrukcijo vzročne verige od določenega vhoda do določenega izhoda, kar podpira odgovornost in pravico do razlage, kjer se ta uporablja.
- Usklajenost s tehnično dokumentacijo. Arhitektura beleženja in njen obseg morata biti opisana v tehnični dokumentaciji, ki se vodi v skladu s členom 11, kar zagotavlja doslednost med sistemom, kot je bil zasnovan, in sistemom, kot je nadzorovan.
Razmerje z drugimi členi
Člena 12 ni mogoče brati ločeno. Deluje kot del mreže medsebojno povezanih zahtev v naslovu III, poglavju 2.
Člen 9 (Sistem upravljanja tveganj) vzpostavlja splošni okvir, v katerega se beleženje vključuje — dnevniki ustvarjajo operativne podatke, potrebne za ugotavljanje in ocenjevanje tveganj pri uvajanju v resničnem svetu.
Člen 11 (Tehnična dokumentacija) od ponudnikov zahteva, da dokumentirajo arhitekturo beleženja in njene zmogljivosti kot del širšega tehničnega spisa, predloženega priglašenim organom ali hranjenega za regulatorno inšpekcijo.
Člen 17 (Sistem upravljanja kakovosti) od ponudnikov zahteva, da vzdržujejo sistem upravljanja kakovosti, ki beleženje vključuje v širše operativne kontrole in postopke korektivnih ukrepov.
Člen 26 (Obveznosti upravljavcev) upravljavcem nalaga obveznost hranjenja dnevnikov pod njihovim nadzorom in sodelovanja s ponudniki in organi, kar naredi člen 12 skupno odgovornost v celotni dobavni verigi.
Člen 72 (Nadzor po dajanju na trg) je dolnji potrošnik dnevnikov iz člena 12 — sistem nadzora se zanaša na operativne dnevnike za zaznavanje slabšanja zmogljivosti, nepričakovanih izhodov in nastajajočih tveganj po uvedbi.
Člen 73 (Poročanje o resnih incidentih) uporablja podatke iz dnevnikov kot primarne dokaze, ko morajo ponudniki poročati o resnih okvarah ali incidentih organom za tržni nadzor.
Časovnica skladnosti
Zakon EU o umetni inteligenci (Uredba 2024/1689) je začel veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije.
Uporaba Uredbe je postopna:
- 2. februarja 2025 — Prepovedi glede praks umetne inteligence z nesprejemljivim tveganjem (naslov II, člen 5) so začele veljati.
- 2. avgusta 2025 — Pravila o modelih umetne inteligence splošnega namena (naslov VIII) in obveznosti upravljanja (naslov III, poglavje 4 o priglašenih organih; naslov VI o upravljanju) so začela veljati.
- 2. avgusta 2026 — Obveznosti za sisteme umetne inteligence visokega tveganja, navedene v Prilogi III, začnejo veljati za večino kategorij. Člen 12 spada v to fazo. Ponudniki in upravljavci sistemov umetne inteligence visokega tveganja morajo imeti do tega datuma vzpostavljene skladne zmogljivosti beleženja.
- 2. avgusta 2027 — Podaljšan rok za sisteme umetne inteligence visokega tveganja, ki jih zajema obstoječa sektorska unijska harmonizacijska zakonodaja, navedena v Prilogi I (npr. stroji, medicinski pripomočki), kar tem sektorjem daje dodatni čas za prilagoditev obstoječih okvirov ugotavljanja skladnosti.
Organizacije, ki razvijajo sisteme umetne inteligence visokega tveganja, bi morale obravnavati 2. avgust 2026 kot trden rok skladnosti za zahteve beleženja iz člena 12, pri čemer mora biti zasnova in testiranje infrastrukture beleženja zaključena pravočasno pred tem datumom, da se omogočijo postopki ugotavljanja skladnosti v skladu s členom 43.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Člen 12 zahteva, da so sistemi umetne inteligence visokega tveganja zasnovani in zgrajeni z zmogljivostmi, ki omogočajo samodejno beleženje dogodkov — dnevnikov — v celotni njihovi operativni življenjski dobi. Ti dnevniki morajo omogočati nadzor po dajanju na trg in olajšati preiskavo incidentov ali resnih okvar.
Primarna obveznost je na ponudnikih sistemov umetne inteligence visokega tveganja. Ponudniki morajo zagotoviti, da je zmogljivost beleženja vgrajena v sistem že pri zasnovi, preden je sistem dan na trg ali v obratovanje.
Dnevniki morajo zajemati vsaj dogodke, ki so relevantni za ugotavljanje tveganj za zdravje, varnost ali temeljne pravice med uporabo sistema. To vključuje obdobje vsake uporabe, referenčno zbirko podatkov, s katero so bili preverjeni vhodni podatki, vhodne podatke, ki so privedli do določenega rezultata, in identiteto fizičnih oseb, vključenih v preverjanje rezultatov.
Uredba v samem členu 12 ne določa enotnega univerzalnega roka hrambe, toda dnevniki se morajo hraniti toliko časa, kolikor je potrebno za izpolnitev obveznosti iz Uredbe, vključno z nadzorom po dajanju na trg v skladu s členom 72. Sektorska pravila lahko določajo dodatne zahteve glede hrambe.
Ne. Člen 12 se posebej uporablja za sisteme umetne inteligence visokega tveganja, kot so opredeljeni v členu 6 in navedeni v Prilogi III k Uredbi (EU) 2024/1689. Sistemi umetne inteligence splošnega namena in sistemi nižjega tveganja niso predmet tega člena, razen če se prav tako uvrščajo med sisteme visokega tveganja.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.