Člen 50 — Obveznosti preglednosti za ponudnike in uporabnike določenih sistemov UI (Uredba EU o UI)

Člen 50 Uredbe (EU) 2024/1689 — Obveznosti preglednosti za ponudnike in uporabnike določenih sistemov UI. Uradno besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.

Povzetek uradnega besedila

Člen 50 Uredbe (EU) 2024/1689 (Uredba EU o UI) določa obveznosti preglednosti za ponudnike in uporabnike specifičnih kategorij sistemov UI. Je osrednja določba Naslova IV in obravnava tveganje, da bi bili posamezniki zavedeni glede tega, ali komunicirajo s človekom ali sistemom UI, ali pa glede tega, ali je vsebina, ki jo porabljajo, umetno ustvarjena.

V skladu s Členom 50(1) morajo ponudniki sistemov UI, zasnovanih za neposredno interakcijo s fizičnimi osebami, zagotoviti, da so ti sistemi zasnovani tako, da je mogoče uporabnike jasno in nedvoumno obvestiti, da komunicirajo s sistemom UI. Ta obveznost je na strani ponudnika v fazi načrtovanja.

Člen 50(2) razširja obveznosti na uporabnike: vsak uporabnik, ki uporablja sistem za prepoznavanje čustev ali sistem biometrične kategorizacije, mora fizične osebe, ki so mu izpostavljene, obvestiti o njegovem delovanju.

Člen 50(3) zahteva, da uporabniki, ki uporabljajo sisteme UI za ustvarjanje ali manipuliranje slikovne, zvočne ali video vsebine, ki predstavlja deepfake, razkrijejo, da je bila vsebina umetno ustvarjena ali manipulirana. Ozka izjema velja, kadar je takšna uporaba očitno zakonita ali ustvarjalno nujna.

Člen 50(4) obravnava besedilo, ustvarjeno z UI, objavljeno z namenom obveščanja javnosti o zadevah javnega interesa — uporabniki morajo razkriti, da je bilo besedilo ustvarjeno s sistemom UI, razen če je poteklo uredniško človeško pregled in je bil izhod bistveno spremenjen.

Člen 50(5) nalaga obveznosti ponudnikom modelov UI splošnega namena (GPAI), da zagotovijo, da so izhodi strojno berljivi in jih je mogoče prepoznati kot ustvarjene z UI, zlasti za sintetično zvočno, slikovno, video ali besedilno vsebino.

Kaj to pomeni v praksi

Člen 50 neposredno vpliva na vsako organizacijo, ki gradi ali uveljavlja sisteme UI, ki komunicirajo z ljudmi ali ustvarjajo vsebino, ki je predstavljena ljudem.

Za ponudnike tehnologije nastane ključna obveznost v fazi načrtovanja in razvoja. Podjetje, ki gradi klepetalnega robota za storitve za stranke, mora vgraditi mehanizem razkritja — jasno, neposredno obvestilo, ki uporabnika obvesti, da komunicira s sistemom UI — preden je izdelek dan na trg ali dan v uporabo. To ne sme biti naknadna misel ali opomba v pogojih storitve.

Za uporabnike — podjetja, ki integrirajo orodja UI tretjih strani v svoje poslovanje — je obveznost operativna. Banka, ki uvaja virtualni asistent na podlagi UI, mora zagotoviti, da so stranke na začetku vsake interakcije obveščene, da govorijo z UI. Medijska organizacija, ki za pisanje člankov uporablja UI, mora to vsebino označiti kot ustvarjeno z UI, razen če jo je usposobljeni človeški urednik materialno pregledal in predelal.

Za sintetično vsebino in deepfake vsebine je obveznost še posebej stroga. Trženjske ekipe, ki uporabljajo slike oseb, ustvarjene z UI, ali producenti medijev, ki ustvarjajo zvok z glasom, ustvarjenim z UI, morajo k tej vsebini priložiti razkritje — po možnosti strojno berljivo. Platforme, ki distribuirajo takšno vsebino, so spodbujene, v nekaterih razlagah pa obvezane, da ta označevanja prikažejo končnim uporabnikom.

V praksi bi morale organizacije izvesti popis svojih sistemov UI, da ugotovijo, kateri sodijo v področje uporabe Člena 50, opredeliti predlogo razkritja, usklajeno z zahtevami Člena, in uvesti tehnične kontrole — dodajanje vodnih žigov, vdelava metapodatkov ali pasice na ravni vmesnika — da se zagotovi, da je skladnost sistematična in ne ročna. Priporočljivo je interno usposabljanje ekip, ki uvajajo orodja UI, da se obveznosti razkritja obravnavajo kot zahteva delovnega procesa in ne kot pravna abstrakcija.

Ključne obveznosti

• Obveznost načrtovanja ponudnika: Ponudniki morajo sisteme UI, namenjene interakciji s fizičnimi osebami, zasnovati tako, da ti sistemi svojo naravo UI jasno in nedvoumno razkrijejo pred interakcijo ali na njenem začetku.
• Razkritje s strani uporabnika — pogovorna UI: Uporabniki, ki sisteme UI uporabljajo za neposredno interakcijo s končnimi uporabniki, morajo te uporabnike pravočasno in razumljivo obvestiti, da komunicirajo s sistemom UI, razen če je to razvidno iz konteksta.
• Razkritje s strani uporabnika — prepoznavanje čustev in biometrična kategorizacija: Uporabniki, ki upravljajo sisteme za prepoznavanje čustev ali biometrično kategorizacijo, morajo posameznike, ki so jim ti sistemi podvrženi, obvestiti o njihovi uporabi in delovanju.
• Označevanje deepfake vsebin: Uporabniki, ki UI uporabljajo za ustvarjanje ali manipuliranje deepfake vsebine (slike, zvoka, videa, ki posnemajo resnične osebe, kraje ali dogodke), morajo jasno razkriti sintetično ali manipulirano naravo te vsebine.
• Besedilo, ustvarjeno z UI, za javno obveščanje: Uporabniki, ki objavljajo besedilo, ustvarjeno z UI, namenjeno obveščanju javnosti o zadevah javnega interesa, ga morajo označiti kot ustvarjeno z UI, razen kadar je uredniški človeški pregled privedel do bistvene spremembe.
• Strojno berljivi vodni žig za GPAI: Ponudniki modelov UI splošnega namena, ki ustvarjajo sintetično vsebino, morajo uvesti tehnične rešitve — kot so vodni žigi ali označevanje metapodatkov — da se zagotovi, da je izhode mogoče prepoznati kot ustvarjene z UI in jih strojno zaznati v nadaljnjih sistemih.

Razmerje do drugih členov

Člen 50 deluje v okviru širše arhitekture preglednosti Uredbe EU o UI in ga je treba brati skupaj z več drugimi določbami.

Člen 13 (Preglednost in zagotavljanje informacij za visokorizične sisteme UI) določa vzporedne zahteve glede preglednosti za visokorizične sisteme, ki se osredotočajo na dokumentacijo in razložljivost, usmerjeno k uporabnikom in ne h končnim uporabnikom. Kadar visokorizičen sistem komunicira tudi s fizičnimi osebami, se Člena 13 in 50 izvajata hkrati.

Člen 26 (Obveznosti uporabnikov visokorizičnih sistemov UI) dopolnjuje Člen 50 z določitvijo širših operativnih odgovornosti uporabnikov, vključno s spremljanjem in človeškim nadzorom, v okviru katerih spada obveznost razkritja iz Člena 50.

Člena 53 in 54 (Obveznosti za ponudnike modelov GPAI) sta neposredno povezana s Členom 50(5), ki ponudnikom GPAI nalaga zahteve glede vodnih žigov in strojne berljivosti — zahteve, ki morajo biti odražene v tehnični dokumentaciji in ukrepih skladnosti modelov po Členih 53–54.

Uvodne izjave 132–134 zagotavljajo razlagalne smernice o namenu za Naslovom IV, ki pojasnjujejo področje uporabe določb o deepfake vsebinah in prepoznavanju čustev ter pomen izraza „očitno iz konteksta" v določbah o izjemah.

Časovnica skladnosti

Uredba EU o UI je začela veljati 1. avgusta 2024 (20 dni po objavi v Uradnem listu 12. julija 2024). Uredba se izvaja postopoma:

• 2. februarja 2025 — Prepovedane prakse UI po Členu 5 so postale uporabne.
• 2. avgusta 2025 — Obveznosti v zvezi z modeli UI splošnega namena (Naslov VIII, Členi 51–56) in upravljavskimi strukturami so postale uporabne.
• 2. avgusta 2026 — Naslov IV, vključno s Členom 50, je postal v celoti uporaben. Ponudniki in uporabniki pogovorne UI, sistemov sintetične vsebine, sistemov za prepoznavanje čustev in sistemov biometrične kategorizacije so morali do tega datuma imeti vzpostavljene skladne mehanizme razkritja.
• 2. decembra 2026 — Visokorizični sistemi UI, navedeni v Prilogi I (zakonodaja o varnosti proizvodov), morajo izpolnjevati vse obveznosti za visokorizične sisteme.
• 2. avgusta 2027 — Visokorizični sistemi UI, navedeni v Prilogi III, ki so že v uporabi (obstoječi sistemi, dani na trg pred avgustom 2024), morajo izpolnjevati zahteve.

Organizacije, ki do 2. avgusta 2026 niso uvajale mehanizmov razkritja, skladnih s Členom 50, so že v kršitvi Uredbe in morajo sanacijo obravnavati kot takojšno prednostno nalogo.