Člen 5 — Prepovedane prakse UI (Uredba EU o UI)

Člen 5 Uredbe (EU) 2024/1689 — Prepovedane prakse UI. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 5 Uredbe (EU) 2024/1689 (Uredba EU o UI) sestavlja celotni Naslov II in vzpostavlja absolutni seznam praks UI, ki so prepovedane po vsej Evropski uniji. Prepovedi so usmerjene v sisteme UI, katerih potencial za škodo se šteje za tako resen, da jih nobena upravljavska ukrep za tveganje ali ocena skladnosti ne more narediti sprejemljivih.

Člen prepoveduje: (1) sisteme UI, ki uporabljajo subliminalne tehnike, ki presegajo zavest osebe, ali namerno izkoriščajo psihološke slabosti ali ranljivosti za bistveno izkrivljanje vedenja na način, ki povzroča ali bo verjetno povzročil znatno škodo; (2) sisteme UI, ki izkoriščajo starost, invalidnost ali socialno-ekonomske okoliščine za škodljivo izkrivljanje vedenja; (3) sisteme UI, ki jih javni organi ali v njihovem imenu uporabljajo za socialno razvrščanje — ocenjevanje ali razvrščanje fizičnih oseb na podlagi socialnega vedenja ali sklepanja o osebnih lastnostih — kadar to vodi do škodljive ali neugodne obravnave; (4) sisteme UI, ki ocenjujejo tveganje posameznika za storitev kaznivega dejanja izključno na podlagi profiliranja ali osebnostnih lastnosti; (5) biometrično identifikacijo fizičnih oseb na daljavo v realnem času na javno dostopnih mestih za namene pregona, ob upoštevanju omejenih in strogo nadzorovanih izjem; (6) sisteme biometrične identifikacije na daljavo v realnem času ali naknadno, ki se uporabljajo za sklepanje o občutljivih lastnostih, kot so rasa, politično mnenje, sindikalno članstvo, verska prepričanja ali spolna usmerjenost; (7) sisteme UI, ki ustvarjajo ali razširjajo baze podatkov za prepoznavanje obrazov z neciljatim lupanjem interneta ali posnetkov videonadzora; in (8) sisteme UI, ki sklepajo o čustvih fizičnih oseb na delovnih mestih in v izobraževalnem okolju, razen iz varnostnih razlogov.

Kaj to pomeni v praksi

Člen 5 vzpostavlja trdo mejo skladnosti, ki prizadene vsako organizacijo, ki razvija, uvaja ali uvaža sisteme UI na trg EU, ne glede na njeno velikost ali sektor.

Za tehnološke ponudnike in razvijalce UI prepovedi pomenijo, da se določenih kategorij izdelkov preprosto ne sme zakonito dati na trg EU. Prodajalec, ki trži orodje za produktivnost delovne sile, ki vključuje prepoznavanje čustev za nadzorovanje angažiranosti zaposlenih — opozarjanje menedžerjev na zaposlene pod stresom ali neangažirane delavce — mora to funkcijo odstraniti ali preoblikovati pred 2. februarjem 2025. Prav tako maloprodajni analitični zagonski podjem, katerega sistem sklepa o razpoloženju strank iz izrazov na obrazu v trgovini, spada pod prepoved sklepanja o čustvih v kontekstih, ki niso varnostni.

Za organizacije, ki uporabljajo orodja UI tretjih oseb, je skrbno preverjanje enako obvezno. Oddelek za človeške vire, ki uvaja rekrutacijsko platformo, ki prikrito izvaja psihografsko profiliranje za pregled kandidatov, tvega skupno odgovornost kot operater.

Za javne organe je prepoved socialnega razvrščanja še posebej pomembna. Vsak sistem UI, ki združuje vedenjske podatke — zgodovino plačil, vzorce mobilnosti, spletno dejavnost — za ustvarjanje državljanskega rezultata, ki nato omejuje dostop do javnih storitev ali ugodnosti, je nezakonit, ne glede na to, ali je sistem tehnično sofisticiran.

Za organe pregona ozka izjema od prepovedi biometrične identifikacije v realnem času zahteva robustne postopke predhodnega dovoljenja, geografske in časovne omejitve, obvezno beleženje in naknadno poročanje nacionalnim nadzornim organom. Ad hoc ali neprekinjeno uvajanje brez predhodnega sodnega ali upravnega dovoljenja je nezakonito celo v okviru obsega izjeme.

Organizacije bi morale opraviti inventuro vseh sistemov UI v uporabi ali v razvoju, vsakega preslikati glede na merila Člena 5 in brez odlašanja prenehati s prepovedanimi operacijami.

Ključne obveznosti

• Prenehati z uvajanjem ali ga nikoli ne začeti za vsak sistem UI, ki uporablja subliminalne, manipulativne ali tehnike izkoriščanja ranljivosti za izkrivljanje človeškega vedenja na načine, ki bodo verjetno povzročili znatno škodo, brez razpoložljive izjeme ali uravnoteženja sorazmernosti.
• Prepovedati socialno razvrščanje s strani javnih organov ali subjektov, ki delujejo v njihovem imenu: ne uporabljati UI za ocenjevanje ali razvrščanje fizičnih oseb za socialno vedenje ali sklepanje o osebnostnih lastnostih, kadar rezultat vodi do škodljive ali diskriminatorne obravnave.
• Razgraditi orodja za prediktivno policijsko delo, ki ocenjujejo individualno kriminalno tveganje izključno na podlagi profiliranja, osebnostnih lastnosti ali prejšnjih povezav brez konkretnih vedenjskih dokazov.
• Vzdržati se lupanja biometričnih podatkov z interneta, videonadzora ali drugih virov za ustvarjanje ali razširjanje baz podatkov za prepoznavanje obrazov; obstoječih baz podatkov, ki so bile zgrajene s takšnimi sredstvi, se ne sme uporabljati.
• Ne uvajati sistemov UI, ki sklepajo o občutljivih osebnih lastnostih — rasnem ali etničnem poreklu, političnih mnenjih, sindikalnem članstvu, verskih ali filozofskih prepričanjih, spolni usmerjenosti — iz biometričnih ali vedenjskih podatkov.
• Uvesti stroge kontrole predhodnega dovoljenja in beleženja, če delujete kot organ pregona in se zanašate na ozko izjemo iz Člena 5(2)–(5) za biometrično identifikacijo na daljavo v realnem času; vsaka uvedba mora biti časovno omejena, geografsko omejena in podvržena ex-post poročanju.

Razmerje do drugih členov

Člen 5 je treba brati kot vrhunec hierarhije Uredbe EU o UI, ki temelji na tveganju. Deluje skupaj z definicijami iz Člena 3, ki opredeljuje, kaj je "sistem UI", "ponudnik" in "operater" — akterji, na katere se prepovedi nanašajo. Razlikovanje med prepovedanimi praksami po Členu 5 in sistemi UI z visokim tveganjem po Členu 6 in Prilogi III je temeljno: prepovedanih sistemov sploh ni mogoče zakonito uporabljati, medtem ko se sistemi z visokim tveganjem lahko uvajajo ob upoštevanju ocen skladnosti, registracije in tekočih obveznosti nadzorovanja.

Člen 9 (sistemi za upravljanje tveganj) in Členi 10–15 (upravljanje podatkov, preglednost, človeški nadzor) se nanašajo na dovoljene sisteme z visokim tveganjem, toda nimajo nobene remediacijske vloge za prepovedi iz Člena 5. Člen 99 vzpostavlja strukturo kazni, vključno z globo najvišje ravni, ki se uporablja za kršitve Člena 5. Člen 85 in določbe o tržnem nadzoru (Členi 74–78) urejajo izvrševanje. Nacionalni pristojni organi, določeni po Členu 70, so odgovorni za nadzor skladnosti s prepovedmi na ravni držav članic.

Časovnica skladnosti

• 1. avgust 2024 — Uredba (EU) 2024/1689 je začela veljati dvajset dni po objavi v Uradnem listu Evropske unije.
• 2. februar 2025 — Prepovedi iz Člena 5 so postale neposredno veljavne v vseh državah članicah EU. To je bil prvi bistveni datum uporabe v okviru postopnega urnika, določenega v Členu 113. Od tega datuma dalje vsako uvajanje, dajanje na trg ali zagotavljanje storitve prepovedanega sistema UI pomeni regulativno kršitev, ki je predmet kazni po Členu 99.
• 2. avgust 2025 — Začela so se uporabljati pravila o modelih UI splošnega namena (Naslov VIII, Členi 51–56).
• 2. avgust 2026 — Obveznosti za večino sistemov UI z visokim tveganjem, navedenih v Prilogi III, se začnejo uporabljati skupaj z določbami o upravljanju in tržnem nadzoru.
• 2. avgust 2027 — Podaljšan rok za sisteme UI z visokim tveganjem, ki so bili na trgu pred avgustom 2024 in spadajo pod Prilogo I (varnostna komponenta v reguliranih izdelkih).

Za Člen 5 posebej ne obstaja nobeno prehodno obdobje ali prehodna ureditev: rok je bil 2. februar 2025, in vsaka organizacija, ki še ni ukrepala, je zdaj zamudila rok za skladnost.