Prepovedane prakse po Aktu EU o UI (člen 5): V veljavi od februarja 2025

Člen 5 Akta EU o UI prepoveduje osem praks UI z nesprejemljivim tveganjem. Te prepovedi veljajo od 2. februarja 2025. Zajemajo prikrito manipuliranje, socialno točkovanje, daljinsko biometrično identifikacijo v realnem času v javnih prostorih, prepoznavanje čustev pri delu, biometrično kategorizacijo za sklepanje občutljivih lastnosti in ustvarjanje NCII/CSAM.

Prepovedane prakse so že zakon — od 2. februarja 2025

Člen 5 Akta EU o UI prepoveduje osem kategorij praks UI, ki se štejejo za nesprejemljivo tveganje. Te prepovedi so stopile v veljavo 2. februarja 2025 — šest mesecev po tem, ko je Akt začel veljati — in se brez izjeme uporabljajo za vse ponudnike in izvajalce v EU. Digitalni paket 2026 teh prepovedi ni spremenil.

Uveljavitev je aktivna. Nacionalni organi za nadzor trga in Urad EU za UI so pooblaščeni za preiskave, nalaganje začasnih ukrepov in nalaganje glob.

Osem prepovedanih praks

1. Prikrito manipuliranje

Sistemi UI, ki uvajajo tehnike, ki delujejo pod pragom človekove zavesti, da bi izkrivljali vedenje na načine, ki povzročajo ali bi verjetno povzročali znatno škodo. To cilja na UI, ki izkorišča kognitivne predsodke, psihološke šibkosti ali podzavestne sprožilce za usmerjanje vedenja proti lastnim interesom uporabnikov.

Razlikovalna lastnost: manipulacija mora biti pod zavestnim zaznavanjem IN povzroča (ali bi verjetno povzročala) znatno škodo. Prepričljiva, a pregledna UI ni prepovedana.

2. Izkoriščanje ranljivosti

UI, ki izkorišča specifične ranljivosti posebnih skupin — otrok, starejših oseb, oseb z invalidnostmi, tistih v ekonomski stiski — da bi izkrivljala vedenje na načine, ki povzročajo ali bi verjetno povzročali znatno škodo.

3. Socialno točkovanje javnih organov

Splošno namenska sistema socialnega točkovanja, ki jih upravljajo javni organi in ki ocenjujejo ali razvrstijo naravne osebe na podlagi njihovega socialnega vedenja ali osebnih značilnosti, kjer točkovanje vodi do škodljivega ravnanja, ki ni v zvezi s kontekstom, v katerem so bili podatki ustvarjeni.

To cilja na sisteme socialnega kredita kitajskega tipa. Velja samo za javne organe — kreditno točkovanje zasebnega sektorja v posebnih domenah (finančna kreditna sposobnost) ostaja dovoljeno po Annex III.

4. Daljinska biometrična identifikacija v realnem času v javnih prostorih (kazenski pregon)

Daljinska biometrična identifikacija naravnih oseb v realnem času v javno dostopnih prostorih za namene kazenskega pregona je prepovedana, s tremi ozkimi izjemami:

• Ciljno iskanje posebnih žrtev kaznivih dejanj (ugrabitev, trgovanje z ljudmi, spolno izkoriščanje)
• Preprečevanje posebne, bistvene in neposredne grožnje terorizma
• Identifikacija storilcev navedenih resnih kaznivih dejanj, za katera so predpisane zaporne kazni nad 3 leta

Izjeme zahtevajo predhodno sodno ali neodvisno upravno pooblastilo, so časovno in prostorsko omejene ter so priglašene nacionalnemu organu.

5. Napovedovanje individualnega kaznivega tveganja na podlagi UI

Sistemi UI, ki ocenjujejo ali napovedujejo tveganje, da bo naravna oseba storila kaznivo dejanje izključno na podlagi profiliranja ali osebnostnih značilnosti, brez sklicevanja na objektivna, preverljiva dejstva, ki so neposredno povezana s kriminalno dejavnostjo.

6. Prepoznavanje čustev na delovnem mestu in v izobraževalnih ustanovah

Sistemi UI, ki se uporabljajo za sklepanje o čustvih naravnih oseb na delovnem mestu ali v izobraževalnih ustanovah, so prepovedani. Izjeme obstajajo za medicinske namene (npr. ocena bolečine) in varnostne namene (zaznavanje zaspanosti pri voznikih vozil).

7. Biometrična kategorizacija z sklepanjem na občutljive značilnosti

Sistemi UI, ki na podlagi biometričnih podatkov kategorizirajo posameznike za sklepanje ali izpeljavo rase, političnih mnenj, članstva v sindikatu, verskih ali filozofskih prepričanj, spolne usmerjenosti ali zdravstvenega stanja, so prepovedani.

Standardna prepoznava obrazov za nadzor dostopa (identifikacija, kdo je nekdo) je drugačna od kategorizacije (sklepanje, kateri skupini pripada). Slednja je prepovedana.

8. Ustvarjanje NCII in CSAM

Sistemi UI, ki ustvarjajo ali manipulirajo slikovno, avdio ali video vsebino, ki sestavlja nekonsenzualne intimne slike (NCII) ali gradivo spolne zlorabe otrok (CSAM), so prepovedani. To je bilo dodano za obravnavo posebnih škod generativnih modelov UI v teh kategorijah.

Kazni

Neskladnost s členom 5 se kaznuje z najvišjim nivojem glob Akta o UI:

• 35 milijonov EUR ali 7 % skupnega celotnega letnega prometa za predhodno poslovno leto, odvisno od tega, katera vrednost je višja
• Za MSP in zagonska podjetja se upošteva nižja od obeh vrednosti

Nacionalni pristojni organi imajo tudi pooblastila za zahtevo takojšnje umik sistema UI s trga.