Člen 77 — Pooblastila organov za varstvo temeljnih pravic (Uredba EU o umetni inteligenci)

Člen 77 Uredbe (EU) 2024/1689 — Pooblastila organov za varstvo temeljnih pravic. Uradni besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 77 Uredbe (EU) 2024/1689 vzpostavlja posebna pooblastila za nacionalne javne organe, katerih mandat obsega varstvo temeljnih pravic, kar jim omogoča, da delujejo kot dodatna plast nadzora nad sistemi umetne inteligence z visokim tveganjem, ki se uvajajo v njihovi jurisdikciji.

V skladu s členom 77(1) je vsakemu nacionalnemu javnemu organu ali telesu, pristojnemu za nadzor ali izvrševanje obveznosti v zvezi s temeljnimi pravicami — vključno z organi za varstvo podatkov v skladu z Uredbo (EU) 2016/679, organi za enakost, organi za varstvo potrošnikov in podobnimi agencijami — podeljena pristojnost zahtevati od uvajateljev sistemov umetne inteligence z visokim tveganjem dostop do dokumentacije, ustvarjene in vzdrževane v skladu z Uredbo. Zlasti lahko ti organi zahtevajo oceno učinkov na temeljne pravice, ki se zahteva od določenih uvajateljev v skladu s členom 27, dnevnike, ki jih sistem umetne inteligence samodejno ustvari in ki se vodijo v skladu s členom 26(6), ter vso drugo ustrezno dokumentacijo, ki dokazuje skladnost.

V skladu s členom 77(2) mora tak organ, kadar ima razumne razloge za prepričanje, da sistem umetne inteligence z visokim tveganjem ogroža temeljne pravice ali zdravje in varnost oseb, obvestiti ustrezni organ za nadzor trga, določen v skladu s členom 70, in mu lahko posreduje vse ustrezne informacije, ki so mu na voljo. Organ za nadzor trga je nato odgovoren za sprejemanje ustreznih preiskovalnih in popravnih ukrepov v skladu s svojimi pristojnostmi na podlagi poglavja VII.

Člen 77 tako vzpostavlja strukturiran mehanizem sodelovanja med sektorskimi organi za temeljne pravice in primarno infrastrukturo za nadzor trga, ne da bi tem organom podelil neposrednih izvršilnih pooblastil glede skladnosti sistemov umetne inteligence neodvisno od vzpostavljenega okvira za nadzor trga.

Kaj to pomeni v praksi

Člen 77 ima neposredne operativne posledice za uvajatelje sistemov umetne inteligence z visokim tveganjem — zlasti tiste, ki delujejo na občutljivih področjih, kot so zaposlovanje, izobraževanje, dostop do bistvenih storitev, preprečevanje kriminala, migracije in uprava sodnega sistema, kjer je izpostavljenost temeljnim pravicam najbolj ostra.

Uvajatelji morajo biti pripravljeni odgovarjati na zahteve po dokumentaciji s strani širšega kroga javnih organov kot le primarnega organa za nadzor trga. Organ za varstvo podatkov, ki izvaja preiskavo orodja za zaposlovanje z umetno inteligenco, organ za enakost, ki preiskuje avtomatizirani sistem upravičenosti do ugodnosti, ali agencija za varstvo potrošnikov, ki preverja platformo za kreditno ocenjevanje z umetno inteligenco, se vse lahko sklicujejo na člen 77, da pridobijo oceno učinkov uvajatelja na temeljne pravice in sistemske dnevnike.

Praktično to pomeni, da morajo uvajatelji zagotoviti, da je njihova ocena učinkov na temeljne pravice v skladu s členom 27 dokončana, posodobljena in zlahka dostopna pred uvajanjem — in ne obravnavana kot naknadna vaja. Prav tako morajo biti obveznosti beleženja v skladu s členom 26 operativno aktivne, da se zapisi lahko predložijo na zahtevo brez odlašanja.

Za ponudnike člen 77 poudarja pomen ustvarjanja in vzdrževanja celovite tehnične dokumentacije v skladu s členom 11 ter navodil za uporabo v skladu s členom 13, ki so dovolj podrobna, da podpirajo skladnost uvajateljev. Če organ za temeljne pravice izrazi pomisleke in obvesti organ za nadzor trga, bo dokumentacija ponudnika osrednja pri vsaki nadaljnji preiskavi.

Organizacije, ki uvajajo sisteme umetne inteligence z visokim tveganjem, bi morale ugotoviti, kateri organi za temeljne pravice imajo jurisdikcijo nad njihovimi dejavnostmi, in proaktivno oceniti, kako bodo ti organi verjetno razlagali svoja pooblastila v zvezi z nadzorom umetne inteligence.

Ključne obveznosti

• Uvajatelji morajo na zahtevo zagotoviti dokumentacijo: Na zahtevo pristojnega organa za temeljne pravice morajo uvajatelji sistemov umetne inteligence z visokim tveganjem zagotoviti dostop do ocene učinkov na temeljne pravice (člen 27), samodejno ustvarjenih dnevnikov (člen 26(6)) in vse druge dokumentacije, ki je relevantna za oceno organa.
• Organi za temeljne pravice morajo obvestiti organe za nadzor trga: Kadar ima organ za temeljne pravice razumne razloge za prepričanje, da sistem umetne inteligence z visokim tveganjem ogroža temeljne pravice ali zdravje in varnost, je dolžan obvestiti ustrezni organ za nadzor trga, določen v skladu s členom 70, in deliti vse ustrezne informacije.
• Ocene učinkov na temeljne pravice morajo biti aktualne in dostopne: Ker člen 77 vzpostavlja aktivno pravico do zahteve po dokumentaciji, uvajatelji, ki jih zajema člen 27, ne morejo odlagati ali zanemarjati ocene učinkov — ta mora obstajati in biti dostopna, ko organ izvaja svoja pooblastila.
• Hranjenje dnevnikov mora biti operativno pred uvajanjem: Uvajatelji morajo zagotoviti, da so mehanizmi beleženja, ki se zahtevajo v skladu s členom 26(6), aktivni in da se zapisi hranijo na način, ki omogoča pravočasno predložitev organom, ki se sklicujejo na člen 77.
• Zahtevano je sodelovanje med organi: Uvajatelji in ponudniki morajo biti pripravljeni hkrati sodelovati z več pristojnimi telesi — organom za temeljne pravice, ki sproži preiskavo, in organom za nadzor trga, ki mu poroča — brez ustvarjanja protislovij v informacijah, posredovanih vsakemu od njih.

Razmerje do drugih členov

Člen 77 se nahaja na presečišču okvira za poonitoriranje po dajanju na trg (poglavje IX) in širše arhitekture za nadzor trga (poglavje VII) ter ga je treba brati skupaj z več drugimi določbami.

Člen 26 (Obveznosti uvajateljev) vzpostavlja temeljne dolžnosti spremljanja in beleženja, ki ustvarjajo dokumentacijo, do katere so organi iz člena 77 pooblaščeni dostopati. Člen 27 (Ocena učinkov na temeljne pravice za sisteme umetne inteligence z visokim tveganjem) vzpostavlja primarni dokument, ki ga bodo iskali organi za temeljne pravice; oba člena sta operativno povezana.

Člen 70 (Določitev nacionalnih pristojnih organov in enotnih kontaktnih točk) opredeljuje organe za nadzor trga, ki jim morajo organi za temeljne pravice poročati v skladu s členom 77(2). Člena 74 in 75 opredeljujeta preiskovalna in popravna pooblastila, ki jih ti organi za nadzor trga lahko nato izvajajo po prejemu obvestila.

Člen 13 (Preglednost in zagotavljanje informacij uvajateljem) in člen 11 (Tehnična dokumentacija) sta relevantna, ker ustreznost dokumentacije, ki jo zagotovi ponudnik, neposredno pogojuje zmožnost uvajatelja, da se odzove na zahteve v skladu s členom 77. Člen 9 (Sistem upravljanja tveganj) zagotavlja predhodni analitični okvir, ki bi moral informirati oceno učinkov na temeljne pravice, na katero se sklicuje člen 77.

Za organizacije, ki jih zajema GDPR, bi bilo treba člen 77 brati tudi skupaj s členi 35 in 51–59 Uredbe (EU) 2016/679, ki urejajo ocene učinka na varstvo podatkov in pooblastila nadzornih organov — pristojnosti, ki se bistveno prekrivajo z okvirom člena 77 pri uvajanju umetne inteligence, ki vključuje obdelavo osebnih podatkov.

Časovni okvir skladnosti

Uredba EU o umetni inteligenci je začela veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije.

Postopni urnik uporabe je naslednji:

• 2. februar 2025: Prepoved nesprejemljivih praks umetne inteligence (člen 5) je postala veljavna.
• 2. avgust 2025: Pravila o modelih umetne inteligence splošnega namena (naslov VIII, členi 51–56) in obveznosti upravljanja (naslov VII) so postala veljavna.
• 2. avgust 2026: Člen 77 skupaj s celotnim okvirom za sisteme umetne inteligence z visokim tveganjem, navedene v Prilogi III (vključno z aplikacijami na področju zaposlovanja, izobraževanja, bistvenih storitev, preprečevanja kriminala, migracij in sodstva), postane veljaven. To je primarni rok skladnosti za večino uvajateljev, ki bodo verjetno soočeni z zahtevami v skladu s členom 77 s strani organov za temeljne pravice.
• 2. avgust 2027: Okvir člena 77 — in širše obveznosti glede sistemov umetne inteligence z visokim tveganjem — postane veljaven za sisteme umetne inteligence, ki jih ureja harmonizacijska zakonodaja Unije, navedena v Prilogi I (vključno z medicinskimi pripomočki, stroji, civilnim letalstvom in sestavnimi deli motornih vozil).

Uvajatelji sistemov umetne inteligence z visokim tveganjem na področjih, ki so občutljiva z vidika temeljnih pravic, bi morali dokončati ocene učinkov na temeljne pravice v skladu s členom 27 in preveriti, da je njihova infrastruktura za beleženje v skladu s členom 26 operativna pravočasno pred rokom 2. avgusta 2026.