Člen 86 — Pravica do razlage individualnega odločanja (Uredba EU o umetni inteligenci)

Člen 86 Uredbe (EU) 2024/1689 — Pravica do razlage individualnega odločanja. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 86 Uredbe (EU) 2024/1689 — Uredbe EU o umetni inteligenci — vzpostavlja pravico do razlage za fizične osebe, ki so predmet odločitev, sprejetih z vključenostjo visoko tveganih sistemov umetne inteligence, navedenih v Prilogi III. Kadar taka odločitev povzroča pravne učinke na posameznika ali ga podobno pomembno prizadene, ima ta posameznik pravico pridobiti od upravljavca smiselno razlago vloge, ki jo je sistem umetne inteligence odigral v postopku odločanja.

Razlaga mora zajemati vsaj glavne parametre, ki jih je sistem upošteval, in težo, ki so jo ti parametri imeli pri doseganju specifičnega izida, ki prizadene posameznika. Ta obveznost je naložena upravljavcu — subjektu, ki uvede visoko tvegani sistem umetne inteligence v uporabo — in ne ponudniku, ki je sistem razvil in ga dal na trg.

Pravica ni absolutna. Člen 86 izključuje situacije, v katerih je odločitev potrebna za sklenitev ali izpolnitev pogodbe, je zahtevana ali pooblaščena z zakonodajo Unije ali države članice, ali temelji na izrecnem predhodnem soglasju posameznika, na katerega se nanašajo podatki. Tudi v teh izvzetih situacijah so upravljavci splošno dolžni izvajati ustrezne zaščitne ukrepe, vključno z zagotavljanjem človeškega pregleda in obveščanjem posameznikov o možnosti zahtevanja takšnega pregleda. Člen tako deluje kot dopolnilni instrument okviru individualnih pravic, vzpostavljenemu na podlagi GDPR, zlasti členov 13–15 in 22 Uredbe (EU) 2016/679, hkrati pa je prilagojen specifičnemu kontekstu odločanja s pomočjo umetne inteligence.

Kaj to pomeni v praksi

Člen 86 ima neposredne operativne posledice za vsako organizacijo, ki uvaja visoko tvegani sistem umetne inteligence v kontekstu, kjer so individualni izidi v igri. Tipični scenariji vključujejo kreditno ocenjevanje s pomočjo umetne inteligence s strani finančnih institucij, orodja za zaposlovanje ali razvrščanje kandidatov s podporo umetne inteligence, sisteme umetne inteligence, ki jih javni organi uporabljajo pri določanju upravičenosti do ugodnosti, in razvrščanje tveganj na podlagi umetne inteligence pri zavarovalnem prevzemu.

V vsakem od teh primerov mora biti upravljavec zmožen — na zahtevo — ustvariti dovolj podroben opis razlogov, zakaj je bila konkretna odločitev za posameznika takšna, kot je bila. Splošen opis delovanja modela kot razreda je nezadosten. Razlaga mora biti individualizirana: odražati mora dejanske parametre, ocenjene za to osebo, in kako je vsak parameter prispeval k izidu.

V praksi to od upravljavcev zahteva vzdrževanje zmogljivosti beleženja in revizijskega sleda na ravni posameznega sklepanja, ne le na ravni modela. Kadar je sistem umetne inteligence nabavljen pri zunanjem ponudniku, mora upravljavec zagotoviti, da pogodbene in tehnične ureditve, ki so vzpostavljene, omogočajo pridobivanje in sporočanje zahtevanih informacij. Ponudniki so skladno s tem zavezani na podlagi člena 13 (preglednost) in člena 16 (obveznosti ponudnikov), da upravljavcem posredujejo dokumentacijo, potrebno za izpolnitev te dolžnosti.

Organizacije bi morale pregledati tudi, kako se člen 86 prepleta z njihovimi obstoječimi procesi v okviru člena 22 GDPR. Kadar avtomatizirano odločanje sproži pravice na podlagi člena 22 GDPR, se pravica do razlage iz Uredbe EU o umetni inteligenci lahko hkrati nanaša na obe situaciji, konsolidiran mehanizem odziva, ki pokriva oba okvira, pa bo zmanjšal breme skladnosti in izboljšal izkušnjo prizadetih posameznikov.

Ključne obveznosti

• Upravljavci visoko tveganih sistemov umetne inteligence, navedenih v Prilogi III, morajo na zahtevo zagotoviti individualizirano razlago glavnih parametrov odločitve, sprejete z vključenostjo umetne inteligence, in relativno težo teh parametrov pri specifičnem izidu.
• Razlage morajo biti specifične za zadevnega posameznika, ne splošen opis splošne logike sistema ali metodologije usposabljanja.
• Upravljavci morajo vzdrževati tehnično in dokumentacijsko infrastrukturo — vključno z dnevniki na ravni sklepanja — ki zadostuje za rekonstrukcijo in sporočanje ustreznih parametrov odločitve po dejstvu.
• Upravljavci morajo prizadete osebe obvestiti o njihovi pravici do zahteve razlage in, kjer je primerno, o njihovi pravici do zahteve po človeškem pregledu odločitve, na jasen in dostopen način.
• Kadar se uporabljajo izjeme (pogodbena nujnost, zakonska obveznost, izrecno soglasje), morajo upravljavci kljub temu zagotoviti ustrezne zaščitne ukrepe, vključno z dejanskim mehanizmom človeškega pregleda.
• Ponudniki, ki visoko tvegane sisteme umetne inteligence zagotavljajo upravljavcem, morajo zagotoviti zadostno tehnično dokumentacijo in navodila na podlagi členov 13 in 16, ki upravljavcem omogočajo izpolnjevanje njihovih obveznosti po členu 86.

Razmerje do drugih členov

Člen 86 ne deluje v izolaciji in ga je treba brati skupaj z več medsebojno povezanimi določbami Uredbe EU o umetni inteligenci in zunanjimi instrumenti.

V okviru uredbe člen 86 neposredno izhaja iz razvrstitve visoko tveganih sistemov umetne inteligence v Prilogi III; pravica se sproži le, kadar sistem spada v to področje uporabe. Je tesno povezan s členom 13 (preglednost in zagotavljanje informacij upravljavcem), členom 14 (zahteve glede človeškega nadzora), členom 26 (obveznosti upravljavcev) in členom 72 (obveznosti ocenjevanja vpliva na temeljne pravice za nekatere javne upravljavce).

Navzven je člen 86 izrecno zasnovan kot dopolnilo člena 22 GDPR, ki omejuje izključno avtomatizirane odločitve, ki imajo pomemben vpliv na posameznike, in členov 13–15 GDPR, ki urejajo informacijske pravice. Kadar se oba instrumenta nanašata na isto situacijo, pravica do razlage iz Zakona o umetni inteligenci doda plast granularnosti, specifično za umetno inteligenco, obstoječemu okviru preglednosti GDPR. Strokovnjaki bi morali upoštevati tudi interakcijo s predlaganim Direktivom o odgovornosti za umetno inteligenco, kjer bi lahko zapisi razlag postali bistveni pri ugotavljanju vzročnosti v odškodninskih zahtevkih, ki izhajajo iz odločitev s pomočjo umetne inteligence.

Časovnica skladnosti

Uredba EU o umetni inteligenci je začela veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije. Uporaba je postopna:

• Februar 2025: Določbe o prepovedanih praksah umetne inteligence (člen 5) so postale veljavne.
• Avgust 2025: Pravila za modele umetne inteligence splošnega namena (naslov VIII, členi 51–56) in strukture upravljanja so postala veljavna.
• Avgust 2026: Pravila za visoko tvegane sisteme umetne inteligence, zajete z obstoječo harmonizacijsko zakonodajo Unije (Priloga I), so začela veljati.
• December 2026 / avgust 2027: Celotne obveznosti za visoko tvegane sisteme umetne inteligence v okviru naslova III — vključno z obveznostmi upravljavcev na podlagi člena 26 in pravico do razlage iz člena 86 — se uporabljajo od 2. avgusta 2026 za sisteme, navedene v Prilogi III, s prehodnim obdobjem za nekatere visoko tvegane sisteme umetne inteligence, ki so že v obratovanju in ki se razteza do 2. avgusta 2027.

Organizacije, ki uvajajo visoko tvegane sisteme umetne inteligence iz Priloge III in ki še niso skladne s členom 86, bi morale december 2026 obravnavati kot trd rok in prednostno graditi infrastrukturo razlag ter delovne tokove zahtev za individualne pravice bistveno pred tem datumom.