Obveznosti preglednosti Akta EU o UI (čl. 50) — Klepetalniki, Deepfake in sintetična vsebina

Večina sistemov UI ni visokotveganostnih — spadajo pod obveznosti preglednosti čl. 50. Če uvajate klepetalnik, ustvarjate sintetične slike ali uporabljate prepoznavanje čustev, tukaj je točno to, kar morate razkriti in označiti.

Kdo spada pod čl. 50 (ni visokotveganostni)

Akt EU o UI vzpostavi urejen okvir tveganja. Večina sistemov UI, ki se danes uvajajo, se ne kvalificira kot visokotveganostna po Annex III ali Annex I — spadajo v eno od dveh lažjih kategorij:

• Samo obveznosti preglednosti (čl. 50): klepetalniki, generatorji deepfake, sistemi sintetične vsebine, sistemi za prepoznavanje čustev in orodja za biometrično kategorizacijo
• Minimalno tveganje: filtri neželene pošte, UI v igrah, priporočilni sistemi — zavezani samo prostovoljnim kodeksom ravnanja

Ključna razlika od visokotveganostnih sistemov Annex III je, da sistemi samo s preglednostjo zahtevajo razkritje, ne ugotavljanja skladnosti, tehnične dokumentacije ali oznake CE. Breme je bistveno nižje, toda neskladnost je še vedno kaznivo dejanje s sankcijami z globami do 7,5 milijona EUR.

Razumevanje, v kateri nivo spada vaš sistem, je prvi korak za skladnost. Orodje za klasifikacijo tveganj UI vam lahko pomaga ugotoviti, katere obveznosti se nanašajo.

Čl. 50(1) — Pogovorna UI in klepetalniki

Vsak sistem UI, zasnovan za neposredno komunikacijo z naravnimi osebami, mora uporabnika obvestiti, da komunicira s sistemom UI. Razkritje mora biti:

• Pravočasno — narejeno ob začetku interakcije, preden se začne smiselna izmenjava
• Jasno in razpoznavno — ni skrito v splošnih pogojih ali v drobnem tisku na dnu strani
• Razumljivo — prilagojeno kontekstu, tako da oseba dejansko razume

Obseg: Boti za storitve strankam, virtualni asistenti, glasovni agenti UI, pogovorna UI, vgrajena v socialna omrežja, in z UI podprto klepetanje za podporo na spletnih straneh. Če vmesnik, ki je obrnjen k človeku, za vodenje dialoga uporablja jezikovni model, se čl. 50(1) nanaša.

Izjema 1: Kjer je narava UI iz konteksta očitna — na primer jasno označen asistent UI z avatarjem robota v vmesniku produkta — se obveznost razkritja lahko šteje za izpolnjeno. Toda "očitno" je visoka letvica; implicitni znaki UX sami po sebi verjetno ne zadostijo, kjer bi uporabniki razumno menili, da govorijo z naravno osebo.

Izjema 2: Sistemi, ki jih nacionalna zakonodaja pooblasti za namene kazenskega pregona (npr. prikrita preiskovalna orodja, ki jih uporabljajo pristojni organi).

Rok za skladnost: 2. avgust 2026 (podaljšano z Digitalnim paketom 2026 z izvirnega datuma 2. avgust 2025). Sistemi, uvajani pred tem rokom, morajo biti usklajeni — brez dedovanja.

Čl. 50(2) — Razkritje prepoznavanja čustev

Ponudniki in izvajalci sistemov za prepoznavanje čustev morajo naravne osebe, katerih čustveno ali psihološko stanje se sklepa, obvestiti. To vključuje sisteme, ki iz izrazov obraza, tona glasu, fizioloških signalov ali vedenjskih znakov zaznavajo, razvrščajo ali ocenjujejo čustva, kot so sreča, jeza, stiska, vključenost ali prevara.

Obseg: Orodja za analizo razgovorov HR, ki ocenjujejo vključenost ali stres kandidata; sistemi za ugotavljanje razpoloženja strank, ki nadzirajo interakcije v klicnih centrih; varnostna pregledovalna orodja, ki trdijo, da zaznavajo goljufiv namen; maloprodajni sistemi, ki sledijo čustvenemu odzivu na produkte.

Ni zajeto: Sistemi UI, ki za čisto varnostne namene zaznavajo fiziološka stanja — na primer sistemi za zaznavanje zaspanega voznika, ki nadzirajo gibanje oči in sprožijo opozorilo, toda ne sklepajo ali beležijo čustvenih stanj za druge namene. Izjema za varnostni namen je ozka; sistemi, ki se preusmerijo za profiliranje, izgubijo izjemo.

Kjer je sistem za prepoznavanje čustev prav tako visokotveganostni sistem po Annex III (npr. presejanje za zaposlovanje), se poleg razkritja po čl. 50(2) nanašajo polne obveznosti visokotveganostnih.

Čl. 50(3) — Razkritje biometrične kategorizacije

Sistemi UI, ki iz biometričnih podatkov sklepajo na občutljive osebne lastnosti — vključno z rasno ali etnično poreklo, politična mnenja, članstvo v sindikatu, verska ali filozofska prepričanja ali spolno usmerjenost — morajo osebe, izpostavljene sistemu, obvestiti.

Ta obveznost velja za sisteme, ki kategorizirajo posameznike na podlagi biometričnih vnosov, ne glede na to, ali je kategorizacija primarni namen ali spodnji sklep. Sistem, ki za sklepanje o verjetnih demografskih lastnostih uporablja prepoznavo obrazov, sproži čl. 50(3), četudi je naveden namen kaj drugega.

Pomembna meja s čl. 5: Daljinska biometrična identifikacija naravnih oseb v realnem času v javno dostopnih prostorih s strani kazenskega pregona je v celoti prepovedana po čl. 5, ne le zavezana razkritju. Kjer je sistem prepovedan, so obveznosti preglednosti nepomembne — sploh ne more biti zakonito uvajan. Glejte prepovedane prakse po čl. 5 za celoten seznam prepovedanih sistemov.

Čl. 50(4) — Označevanje sintetične vsebine, ustvarjene z UI

Ponudniki sistemov UI, ki v obsegu ustvarjajo ali manipulirajo sintetično avdio, sliko, video ali besedilo, morajo tehniško označiti izhod v strojno berljivem formatu. Oznaka mora:

• Biti zaznavna in interoperabilna na platformah in preverjevalnih orodjih
• Obstati, ko se vsebina deli, prekodirata ali redistribuira
• Upoštevati tehnični standard, ki ga razvija Evropski urad za UI (standard provenience vsebine, ustvarjene z UI, ki se včasih omenja kot ATMF)

Obseg: Generatorji besedilo-v-sliko (enakovredniki Midjourney, Stable Diffusion, DALL-E); orodja za sintezo videa in deepfake videa; sistemi kloniranja glasu; UI pisalni asistenti, ki v velikem obsegu ustvarjajo brez uredniškega pregleda (npr. avtomatizirano ustvarjanje novic, tržno kopiranje v obsegu brez uredniškega pregleda).

Izjema: Sistemi UI, ki ustvarjajo vsebino, ki je bila podvržena uredniškemu pregledu s strani človeka, za katerega človek prevzame uredniško odgovornost. Novinar, ki za specifično uporabo UI osnutek orodje, pregleduje in bistveno ureja izhod pred objavo, zunaj tega je označevalna obveznost za. Isti sistem, uvajan brez uredniškega nadzora, ni.

Ponudniki morajo na ravni infrastrukture implementirati tehniško označevanje — vodne žige, kriptografske metapodatke provenience ali z standardi skladne poverilnice vsebine — ne kot izbirno funkcijo, temveč kot privzeto obnašanje izhoda.

Čl. 50(5) — Obveznost izvajalca za razkritje deepfake

Kjer izvajalec sistem UI uporabi za ustvarjanje deepfake vsebine — sintetičnih ali manipuliranih slik, avdia ali videa resničnih oseb — mora izvajalec jasno označiti vsebino kot ustvarjeno z UI ali manipulirano. Oznaka mora biti:

• Vidna v primeru slikovne ali video vsebine
• Slišna v primeru avdio vsebine
• Nameščena na način, ki je občinstvu opazen, ne zgolj vgrajen v metapodatke

Izjeme: Vsebina, ustvarjena za satiro, parodijo ali umetniško izražanje, kjer je narava ustvarjanja z UI občinstvu očitna. Ustvarjalci, ki delajo v jasno parodičnih ali satiričnih formatih, bi morali vseeno dokumentirati svojo namero, saj bodo organi uveljavitve ocenjevali, ali je bila narava UI v kontekstu resnično očitna.

Ta obveznost leži na izvajalcu — organizaciji ali posamezniku, ki vsebino da v uporabo — ne zgolj na ponudniku sistema. Tržna agencija, ki uporablja orodje za deepfake video tretje stranke, je izvajalec in nosi obveznost označevanja.

Praktični koraki za skladnost po vrsti sistema

Izvajalci, ki sisteme UI tretjih oseb uporabljajo, nosijo obveznosti preglednosti neodvisno od tega, ali je ponudnik svojo izpolnil. Izvajalec se ne more opreti na razkritje ponudnika kot nadomestilo za lastno.

Razmerje z GDPR

Obveznosti preglednosti čl. 50 so pravno neodvisne od GDPR čl. 22 (avtomatizirano individualno odločanje). Isti sistem lahko hkrati sproži oba okvira.

Primer: Klepetalnik, ki se uporablja kot prva faza postopka za posojilo, mora:

1. Ob začetku pogovora razkriti, da je sistem UI (čl. 50(1))
2. Če klepetalnik sprejme ali smiselno prispeva k izključno avtomatizirani odločitvi s pravnimi ali enako pomembnimi učinki, mora izvajalec prav tako zagotoviti pravice GDPR čl. 22 — pravico, da ne bo podvržen avtomatizirani odločitvi, pravico do pregleda s strani človeka in pravico do obrazložitve

Organizacije, ki uvajajo UI v reguliranih sektorjih (finančne storitve, zavarovalništvo, HR), bi morale kot del istega pregleda skladnosti kartirati tako obveznosti čl. 50 kot uporabnost GDPR čl. 22. Okvira sta komplementarna, ne med seboj izključujoča.

Globe za neskladnost

Kršitve obveznosti preglednosti čl. 50 se kaznujejo z globami do 7,5 milijona EUR ali 1,5 % skupnega celotnega letnega prometa za predhodno poslovno leto, odvisno od tega, katera vrednost je višja. Za MSP in zagonska podjetja odstotkovna omejitev praviloma ustvari nižji znesek; za velika podjetja je bolj verjetna absolutna omejitev.

Pristojnost uveljavitve imajo nacionalni organi za nadzor trga, ki so določeni po čl. 74, in Urad EU za UI za ponudnike modelov GPAI. Nadzorni ukrepi lahko vključujejo formalne preiskave, začasne ukrepe, odredbe o prekinitvi uvajanja in javno razkritje ugotovitev.

Neskladnost z obveznostmi označevanja se pričakuje, da bo med prvimi prednostnimi področji uveljavitve glede na visoko javno prepoznavnost sintetičnih medijev in deepfake — regulatorji v več državah članicah so že nakazali namen ukrepati glede neoznačene vsebine, ustvarjene z UI, preden bo širša uveljavitev za visokotveganostne postala operativna.

Naslednji koraki

• Za ugotavljanje, ali je vaš sistem samo s preglednostjo ali visokotveganostni, uporabite klasifikator tveganj UI
• Preglejte prepovedane prakse po čl. 5, da potrdite, da vaš sistem ne spada v prepovedano kategorijo, preden ocenite obveznosti preglednosti
• Spremljajte objavo standarda provenience vsebine, ustvarjene z UI, s strani Evropskega urada za UI za tehnične zahteve označevanja po čl. 50(4)