Člen 19 — Samodejno ustvarjeni dnevniki (Zakon EU o umetni inteligenci)

Člen 19 Uredbe (EU) 2024/1689 — Samodejno ustvarjeni dnevniki. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek Uradnega Besedila

Člen 19 Uredbe (EU) 2024/1689 vzpostavlja obveznost beleženja, ki deluje na dveh ravneh: obveznost načrtovanja za ponudnike in operativna obveznost za upravljavce.

Na strani ponudnika člen 19(1) zahteva, da so sistemi umetne inteligence z visokim tveganjem tehnično sposobni samodejno ustvarjati dnevnike svojega delovanja skozi celotno življenjsko dobo. Ponudniki morajo to zmogljivost vgraditi v sistem v obsegu, ki je tehnično izvedljiv, s čimer zagotovijo, da se dogodki lahko beležijo brez ročnega posredovanja. To se neposredno navezuje na širši okvir preglednosti in sledljivosti iz Naslova III.

Na strani upravljavca člen 19(2) zahteva, da upravljavci hranijo dnevnike, ki jih samodejno ustvarjajo sistemi umetne inteligence z visokim tveganjem, ki jih upravljajo. Minimalno obdobje hrambe je šest mesecev, razen če pravo Unije ali veljavno pravo države članice predpisuje daljše obdobje. Sektorski predpisi — na primer v financah, zdravstvu ali kritični infrastrukturi — bodo to privzeto najnižjo mejo pogosto nadomeščali.

Dnevniki, ki jih predvideva člen 19, služijo več namenom skladnosti: podpirajo nadzor po dajanju v promet v skladu s členom 72, olajšujejo poročanje o incidentih v skladu s členom 73 in zagotavljajo dokazno osnovo, ki jo potrebujejo pristojni nacionalni organi pri izvajanju nadzora trga v skladu s Poglavjem VI. Člen sam ne predpisuje natančnega tehničnega formata ali granularnosti dnevnikov, temveč te podrobnosti prepušča usklajevanim standardom in zahtevam glede tehnične dokumentacije iz člena 11 in Priloge IV.

Kaj To Pomeni v Praksi

Za organizacije, ki upravljajo sisteme umetne inteligence z visokim tveganjem, člen 19 uvaja konkretno obveznost hrambe podatkov, ki mora biti vgrajena v operativne procese od prvega dne uvajanja.

Upravljavci morajo najprej preveriti, da sistem umetne inteligence, ki ga uporabljajo, je tehnično sposoben samodejno ustvarjati dnevnike. Če ponudnik dostavi sistem, ki mu te zmogljivosti manjka tam, kjer je tehnično izvedljiva, ponudnik krši lastne obveznosti — toda upravljavec še vedno nosi odgovornost za izvedbo ustrezne skrbnosti pred uvajanjem, kot to zahteva člen 26.

V praksi to pomeni, da morajo upravljavci od ponudnikov zahtevati jasno dokumentacijo, ki potrjuje prisotnost funkcije beleženja, opisuje, kateri dogodki se beležijo, in navaja format dnevnika. Ta dokumentacija mora biti del pogodbenih dogovorov med ponudnikom in upravljavcem.

Ko je sistem v obratovanju, morajo upravljavci uvesti politiko hrambe dnevnikov, ki zajema vsaj šest mesecev. Za organizacije, ki delujejo v reguliranih sektorjih, se ta osnovna vrednost skoraj vedno podaljša: bolnišnica, ki uvaja orodje za diagnostiko s pomočjo umetne inteligence, bo morala hranjenje dnevnikov uskladiti z zakonodajo o medicinskih evidencah; banka, ki uvaja sistem kreditnega točkovanja na podlagi umetne inteligence, mora upoštevati pravila o vodenju evidenc v finančnih storitvah, ki pogosto zahtevajo več let hrambe.

Konkretni operativni koraki vključujejo: dodelitev odgovornosti za shranjevanje dnevnikov in nadzore dostopa, zagotovitev, da so dnevniki zaščiteni pred posegi in varno shranjeni, vzpostavitev postopkov za hitro pridobivanje dnevnikov v odgovor na regulatorno zahtevo ali preiskavo incidenta ter dokumentiranje politike hrambe v okviru širšega okvira upravljanja umetne inteligence organizacije.

Dnevniki morajo zajemati dovolj informacij za rekonstrukcijo vnosov, ki so bili posredovani sistemu, ustvarjenih izhodov, različice modela v uporabi in časovnega razporeda operacij — kar omogoča smiselno naknadno pregledovanje.

Ključne Obveznosti

• Ponudniki morajo načrtovati in graditi sisteme umetne inteligence z visokim tveganjem tako, da so tehnično sposobni samodejno ustvarjati dnevnike svojega delovanja, v obsegu, ki je tehnično izvedljiv, skozi celotno operativno življenjsko dobo sistema.
• Upravljavci morajo samodejno ustvarjene dnevnike, ki jih ustvarjajo sistemi umetne inteligence z visokim tveganjem, ki jih upravljajo, hraniti najmanj šest mesecev od datuma ustvarjanja oziroma dlje, če to zahteva veljavno pravo Unije ali države članice.
• Upravljavci morajo zagotoviti, da so shranjeni dnevniki dostopni, varni in jih je mogoče na zahtevo posredovati pristojnim nacionalnim organom med nadzorom trga ali preiskavami incidentov.
• Ponudniki morajo dokumentirati zmogljivost beleženja svojega sistema — vključno s tem, kaj se beleži, formatom dnevnika in morebitnimi znanimi tehničnimi omejitvami — kot del tehnične dokumentacije, ki se zahteva v skladu s členom 11 in Prilogo IV.
• Kadar sektorski predpisi predpisujejo strožje ali daljše zahteve glede hrambe, morajo upravljavci te zahteve upoštevati poleg in namesto šestmesečne osnove.
• Upravljavci morajo zagotoviti, da je infrastruktura za beleženje vzdrževana skozi celotno obdobje uporabe sistema umetne inteligence z visokim tveganjem in da je celovitost dnevnikov zaščitena pred posegi ali nenamerno izbrisom.

Razmerje z Drugimi Členi

Člen 19 se nahaja v Poglavju 3 Naslova III in ga je treba brati kot del integriranega okvira sledljivosti in ne kot izolirano obveznost.

Neposredno se navezuje na člen 12 (Vodenje evidenc), ki zahteva, da so sistemi umetne inteligence z visokim tveganjem načrtovani tako, da omogočajo vodenje evidenc o svojem delovanju, ter na člen 11 in Prilogo IV, ki določata, kakšno tehnično dokumentacijo morajo ponudniki vzdrževati, vključno z opisi zmogljivosti beleženja.

Člen 19 napaja člen 72 (Nadzor po dajanju v promet), ki zahteva, da ponudniki aktivno spremljajo zmogljivost sistema na terenu — dnevniki so primarni vir podatkov za to spremljanje. Prav tako podpira člen 73 (Poročanje o resnih incidentih), kjer dnevniki zagotavljajo dokazno osnovo za razumevanje tega, kaj se je zgodilo med incidentom.

Dnevniki, hranjeni v skladu s členom 19, sodijo med evidence, ki jih pristojni nacionalni organi lahko zahtevajo pri izvajanju svojih pristojnosti nadzora trga v skladu s členoma 74 in 75. Nazadnje, razporeditev odgovornosti med ponudniki in upravljavci, kot je določena v členu 19, odraža širši okvir, ki sta ga vzpostavila člen 25 (Odgovornosti vzdolž vrednostne verige) in člen 26 (Obveznosti upravljavcev).

Časovnica Skladnosti

Zakon EU o umetni inteligenci je začel veljati 1. avgusta 2024 in sprožil fazni razpored uporabe.

Člen 19 spada v Naslov III, Poglavje 3, ki ureja obveznosti ponudnikov in upravljavcev sistemov umetne inteligence z visokim tveganjem. Splošni datum uporabe obveznosti za sisteme umetne inteligence z visokim tveganjem — vključno s členom 19 — je 2. avgust 2026 za sisteme, navedene v Prilogi III (aplikacije z visokim tveganjem na področjih, kot so izobraževanje, zaposlovanje, bistvene storitve in izvrševanje zakona). Za sisteme umetne inteligence z visokim tveganjem, ki jih zajema Priloga I (varnostne komponente izdelkov, ki jih urejajo obstoječi harmonizacijski predpisi Unije), se obveznosti uporabljajo od 2. avgusta 2027, usklajene z obnovo ali prvim izdajanjem ustreznih ocen skladnosti izdelkov.

Prejšnji mejniki uporabe vključujejo prepoved praks umetne inteligence z nesprejemljivim tveganjem (člen 5), ki se je uporabljala od 2. februarja 2025, ter obveznosti v zvezi z modeli umetne inteligence splošnega namena (Naslov VII), ki so se uporabljale od 2. avgusta 2025.

Organizacije, ki upravljajo sisteme umetne inteligence z visokim tveganjem, naj obravnavajo datum 2. avgusta 2026 kot trdi rok skladnosti za obveznosti iz člena 19, vendar naj pravočasno začnejo načrtovati politike hrambe dnevnikov, pregledovati pogodbe s ponudniki in se usklajevati s sektorskimi predpisi o hrambi — kompleksnost upravljanja podatkov v podjetjih naredi zadnjominutno skladnost strukturno zahtevno.