Člen 13 — Preglednost in posredovanje informacij uporabnikom (Uredba EU o umetni inteligenci)

Člen 13 Uredbe (EU) 2024/1689 — Preglednost in posredovanje informacij uporabnikom. Uradne besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 13 Uredbe (EU) 2024/1689 (Uredba EU o umetni inteligenci) določa obveznosti preglednosti, ki se uporabljajo za sisteme UI z visokim tveganjem, kot so opredeljeni v naslovu III. Zahteva, da ponudniki načrtujejo in razvijajo sisteme UI z visokim tveganjem na način, ki uporabnikom omogoča razumevanje in pravilno razlago izhodov takih sistemov ter njihovo ustrezno uporabo.

Osrednji mehanizem člena je obvezna predložitev navodil za uporabo — strukturiranega dokumenta, ki mora spremljati vsak sistem UI z visokim tveganjem, dan na trg ali v obratovanje. Člen 13(3) podrobno določa minimalno vsebino tega dokumenta. Vsebovati mora: identiteto in kontaktne podatke ponudnika; značilnosti, zmogljivosti in omejitve sistema, vključno z njegovim predvidenim namenom in specifičnimi konteksti, za katere je bil potrjen; raven natančnosti, robustnosti in kibernetske varnosti, glede na katero je bil sistem preizkušen, skupaj z vsemi znanimi in predvidljivimi okoliščinami, ki lahko vplivajo na to zmogljivost; kjer je relevantno, tehnične zmogljivosti v zvezi s človeškim nadzorom, vključno z ukrepi za lažjo razlago izhodov; in navodila glede vhodnih podatkov ter strojnega in programskega okolja, v katerem je sistem namenjen delovanju.

Preglednost, ki jo zahteva člen 13, ni zgolj informativna: je predpogoj za smiselni človeški nadzor, ki ga nalaga člen 14. Ponudniki ne morejo izpolniti obveznosti iz člena 14, če uporabnikom manjka razumevanje, ki ga je člen 13 zasnovan posredovati.

Kaj to pomeni v praksi

Za organizacije, ki razvijajo ali tržijo sisteme UI z visokim tveganjem, se člen 13 prevede v konkretno obveznost dokumentiranja, ki mora biti vgrajena v življenjski cikel razvoja izdelka in ne obravnavana kot naknadna misel.

Za ponudnike to pomeni pripravo navodil za uporabo, ki daleč presegajo standardni tehnični priročnik. Dokument mora biti prilagojen za ciljno skupino uporabnikov — tipično organizacijo, ki nabavlja sistem UI za specifičen operativni kontekst, ne nujno inženirja UI. Konkretni primeri tega, kar mora biti zajeto, vključujejo: stopnje natančnosti, dosežene med validacijo, razčlenjene po ustreznih podskupinah populacije, kjer je to primerno (pomembno za sisteme, ki se uporabljajo pri zaposlovanju ali ocenah kreditne sposobnosti); vrste vhodnih podatkov, na katerih je bil sistem usposobljen, in kakšna odstopanja od te porazdelitve lahko povzročijo poslabšanje zmogljivosti; ter specifična navodila, kako naj človeški pregledovalec razlaga oceno zaupanja ali oznako tveganja, ki jo sistem ustvari.

Za uporabnike je člen 13 temelj procesa skrbnega preverjanja pred uvedbo. Uporabnik, ki nabavlja sistem UI z visokim tveganjem, bi moral preveriti, ali so navodila za uporabo prisotna in vsebinska. Odsotnost ustreznih navodil je sama po sebi signal o skladnosti ponudnika. Uporabniki v reguliranih sektorjih — kreditne institucije, ponudniki zdravstvenih storitev, javni organi — bi morali vključiti pregled dokumentacije iz člena 13 v svoje postopke ocenjevanja dobaviteljev in javnega naročanja.

Praktični primeri: Ponudnik orodja za presejanje življenjepisov na podlagi UI (visoko tveganje v skladu s Prilogo III, točka 4) mora dokumentirati njegovo natančnost med demografskimi skupinami in pogoje, v katerih se izhodi sistema ne smejo uporabljati brez človeškega pregleda. Ponudnik sistema UI, ki se uporablja za kreditno ocenjevanje, mora navesti zahtevane vhodne podatke in statistično zaupanje svojih klasifikacij tveganja.

Ključne obveznosti

• Načrtovanje z mislijo na razlagljivost: Sistemi UI z visokim tveganjem morajo biti načrtovani in razviti tako, da je njihovo delovanje dovolj pregledno, da lahko uporabniki razlagajo izhode in sistem ustrezno uporabljajo (člen 13(1)).
• Predložitev navodil za uporabo: Ponudniki morajo predložiti navodila za uporabo v digitalni ali fizični obliki ob vsakem sistemu UI z visokim tveganjem, danem na trg ali v obratovanje (člen 13(2)).
• Razkritje identitete in kontaktnih podatkov: Navodila morajo identificirati ponudnika in navesti kontaktne podatke, ki uporabniku omogočajo komunikacijo vprašanj v zvezi s skladnostjo (člen 13(3)(a)).
• Dokumentiranje zmogljivosti in omejitev: Navodila morajo opisovati predvideni namen sistema, njegove potrjene ravni zmogljivosti, znane ali predvidljive okoliščine, v katerih lahko zmogljivost pade pod dokumentirane ravni, in morebitne znane pristranskosti (člen 13(3)(b)).
• Določitev zahtev glede vhodnih podatkov: Kjer je relevantno za zmogljivost, morajo navodila opisovati naravo, obliko in izvor podatkov, ki jih sistem zahteva kot vhod (člen 13(3)(c)).
• Omogočanje človeškega nadzora: Navodila morajo vsebovati informacije o ukrepih, vgrajenih v sistem za podporo obveznosti človeškega nadzora iz člena 14, vključno z navodili, kako razlagati izhode sistema in ukrepati v skladu z njimi (člen 13(3)(d) in (e)).

Razmerje z drugimi členi

Člen 13 stoji na stičišču več medsebojno povezanih obveznosti v naslovu III, poglavju 2. Operativno je neločljiv od člena 14 (Človeški nadzor): ukrepi za omogočanje človeškega nadzora, opisani v členu 13(3)(d), so neposredni informacijski predpogoj za to, da lahko uporabniki izvajajo nadzorne dolžnosti, ki jim jih nalaga člen 14. Brez ustreznih navodil iz člena 13 je skladnost s členom 14 strukturno nemogoča.

Člen 13 črpa iz tehnične dokumentacije, pripravljene v skladu s členom 11, ki od ponudnikov zahteva, da vodijo celovito dokumentacijo svojih sistemov UI z visokim tveganjem. Navodila za uporabo so izvleček iz tega širšega korpusa dokumentacije, namenjen uporabnikom.

Obveznosti se prepletajo s členom 16 (obveznosti ponudnikov) in členom 26 (obveznosti uporabnikov), ki opredeljujeta, kako mora vsaka stranka izpolnjevati svojo zadevno vlogo, ko je sistem na trgu. Za sisteme, ki prestajajo ocenjevanje skladnosti v skladu s členom 43, navodila za uporabo predstavljajo zahtevani element dokumentacije za ocenjevanje skladnosti, ki jo pregledujejo priglašeni organi.

Nazadnje se člen 13 povezuje s členom 50 (obveznosti preglednosti za določene sisteme UI) v tem, da oba obravnavata preglednost, vendar člen 50 cilja na drugačen kontekst — sisteme UI, ki komunicirajo s fizičnimi osebami in ne s profesionalnimi uporabniki.

Časovnica skladnosti

Uredba EU o umetni inteligenci je začela veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije. Uporaba poteka postopoma:

• 2. februar 2025: Prepovedi praks UI z nesprejemljivim tveganjem (člen 5) so začele veljati.
• 2. avgust 2025: Pravila, ki urejajo modele UI za splošne namene (naslov VIII, členi 51–56) in obveznosti upravljanja, so začele veljati.
• 2. avgust 2026: Člen 13 začne veljati za sisteme UI z visokim tveganjem, navedene v Prilogi III (samostojni sistemi z visokim tveganjem, vključno s tistimi, ki se uporabljajo pri biometrični identifikaciji, kritični infrastrukturi, izobraževanju, zaposlovanju, bistvenihstoritvah, kazenskem pregonu, migraciji in upravljanju sodnega sistema).
• 2. avgust 2027: Člen 13 začne veljati za sisteme UI z visokim tveganjem, zajete v Prilogi I (sistemi UI, ki so varnostne komponente proizvodov, ki so predmet obstoječe zakonodaje EU o varnosti proizvodov, kot so stroji, medicinski pripomočki in oprema za civilno letalstvo).

Ponudniki, ki ciljajo na rok avgust 2026, bi morali obravnavati trenutno obdobje kot čas aktivne priprave. Navodila za uporabo morajo biti dokončana in potrjena glede na zahteve člena 13(3), preden je sistem dan na trg, ne po tem. Organizacije, ki nabavljajo sisteme UI z visokim tveganjem, bi morale zdaj začeti vključevati preverjanje po členu 13 v svoje procese skrbnega preverjanja dobaviteljev, pred veljavnimi datumi.