Članak 50. — Obveze transparentnosti za pružatelje i korisnike određenih sustava UI (Zakon EU o UI)

Članak 50. Uredbe (EU) 2024/1689 — Obveze transparentnosti za pružatelje i korisnike određenih sustava UI. Službeni tekst, praktična interpretacija, ključne obveze i implikacije za usklađenost.

Sažetak službenog teksta

Članak 50. Uredbe (EU) 2024/1689 (Zakon EU o UI) utvrđuje obveze transparentnosti za pružatelje i korisnike specifičnih kategorija sustava UI. Radi se o temeljnoj odredbi Glave IV. koja se bavi rizikom da pojedinci mogu biti zavedeni u pogledu toga komuniciraju li s čovjekom ili sustavom UI, ili je li sadržaj koji konzumiraju umjetno generiran.

Prema članku 50. stavku 1., pružatelji sustava UI namijenjenih izravnoj interakciji s fizičkim osobama moraju osigurati da su ti sustavi osmišljeni na način koji korisnicima omogućuje jasno i nedvosmisleno informiranje da komuniciraju sa sustavom UI. Ova obveza počiva na pružatelju u fazi dizajna.

Članak 50. stavak 2. proširuje obveze na korisnike: svaki korisnik koji primjenjuje sustav za prepoznavanje emocija ili sustav biometrijske kategorizacije mora obavijestiti fizičke osobe koje su mu izložene o njegovom funkcioniranju.

Članak 50. stavak 3. zahtijeva od korisnika koji primjenjuju sustave UI za generiranje ili manipulaciju slikovnog, audio ili video sadržaja koji predstavlja deepfake da objave da je sadržaj umjetno generiran ili manipuliran. Uska iznimka primjenjuje se tamo gdje je takva upotreba očito legitimna ili kreativno neophodna.

Članak 50. stavak 4. bavi se tekstom generiranim UI-jem objavljenim u svrhu informiranja javnosti o pitanjima od javnog interesa — korisnici moraju objaviti da je tekst produciran sustavom UI, osim ako je provedena uredivačka ljudska recenzija i izlaz je bitno izmijenjen.

Članak 50. stavak 5. nameće obveze pružateljima modela UI opće namjene da osiguraju da su izlazi strojno čitljivi i da se mogu identificirati kao generirani UI-jem, posebno za sintetički audio, sliku, video ili tekstualni sadržaj.

Što ovo znači u praksi

Članak 50. izravno utječe na svaku organizaciju koja gradi ili primjenjuje sustave UI koji stupaju u interakciju s ljudima ili generiraju sadržaj koji se prezentira ljudima.

Za tehnološke pružatelje, ključna obveza nastaje u fazi dizajna i razvoja. Tvrtka koja gradi chatbot korisničke podrške mora ugraditi mehanizam otkrivanja — jasnu, transparentnu obavijest koja korisnika informira da komunicira sa sustavom UI — prije nego što se proizvod stavi na tržište ili pusti u upotrebu. To ne može biti naknadna dopuna ili fusnota u uvjetima pružanja usluge.

Za korisnike — tvrtke koje integriraju alate UI trećih strana u svoje poslovanje — obveza je operativne naravi. Banka koja primjenjuje virtualnog asistenta pokretanog UI-jem mora osigurati da se kupci na početku svake interakcije obavijeste da razgovaraju s UI-jem. Medijska organizacija koja koristi UI za pisanje članaka mora označiti taj sadržaj kao generiran UI-jem, osim ako ga je kvalificirani ljudski urednik materijalno pregledao i preuredio.

Za sintetički sadržaj i deepfakeove, obveza je posebno stroga. Marketinški timovi koji koriste slike osoba generirane UI-jem, ili medijski producenti koji stvaraju audio s glasom generiranim UI-jem, moraju priložiti otkrivanje — idealno strojno čitljivo — uz taj sadržaj. Platforme koje distribuiraju takav sadržaj su potaknute, a prema nekim tumačenjima i obvezane, da krajnjim korisnicima prikazuju te oznake.

U praksi, organizacije bi trebale provesti inventuru svojih sustava UI kako bi identificirale koji spadaju u opseg članka 50., definirati predložak otkrivanja usklađen sa zahtjevima Članka te implementirati tehničke kontrole — vodene žigove, ugrađivanje metapodataka ili bannere na razini korisničkog sučelja — kako bi se osiguralo da je usklađenost sustavna, a ne ručna. Preporučuje se interno osposobljavanje timova koji primjenjuju alate UI, kako bi se obveze otkrivanja tretirale kao zahtjev radnog procesa, a ne kao pravna apstrakcija.

Ključne obveze

• Obveza pružatelja u dizajnu: Pružatelji moraju konstruirati sustave UI namijenjene interakciji s fizičkim osobama tako da ti sustavi mogu jasno i nedvosmisleno otkriti svoju prirodu UI-ja prije ili na početku interakcije.
• Otkrivanje od strane korisnika — konverzacijski UI: Korisnici koji primjenjuju sustave UI za izravnu interakciju s krajnjim korisnicima moraju obavijestiti te korisnike na pravodoban i razumljiv način da komuniciraju sa sustavom UI, osim ako je to vidljivo iz konteksta.
• Otkrivanje od strane korisnika — prepoznavanje emocija i biometrijska kategorizacija: Korisnici koji upravljaju sustavima za prepoznavanje emocija ili biometrijsku kategorizaciju moraju obavijestiti pojedince koji su podložni tim sustavima o njihovoj upotrebi i funkcioniranju.
• Označavanje deepfakeova: Korisnici koji primjenjuju UI za generiranje ili manipulaciju deepfake sadržaja (slika, audio, video koji nalikuju stvarnim osobama, mjestima ili događajima) moraju jasno objaviti sintetičku ili manipuliranu prirodu tog sadržaja.
• Tekst generiran UI-jem za javno informiranje: Korisnici koji objavljuju tekst generiran UI-jem s ciljem informiranja javnosti o pitanjima od javnog interesa moraju ga označiti kao generiranog UI-jem, osim ako je ljudska uredivačka recenzija dovela do bitnih izmjena.
• Strojno čitljivi vodeni žigovi za modele opće namjene: Pružatelji modela UI opće namjene koji generiraju sintetički sadržaj moraju implementirati tehnička rješenja — poput vodenih žigova ili označavanja metapodataka — kako bi se osiguralo da su izlazi prepoznatljivi kao generirani UI-jem i strojno detektabilni od strane nizvodnih sustava.

Odnos prema ostalim člancima

Članak 50. funkcionira unutar šire arhitekture transparentnosti Zakona EU o UI i mora se čitati zajedno s nekoliko drugih odredbi.

Članak 13. (Transparentnost i pružanje informacija za visokorizične sustave UI) utvrđuje paralelne zahtjeve transparentnosti za visokorizične sustave, usredotočujući se na dokumentaciju i objašnjivost usmjerenu prema korisnicima, a ne prema krajnjim korisnicima. Tamo gdje visokorizični sustav također stupa u interakciju s fizičkim osobama, primjenjuju se istovremeno i Članak 13. i Članak 50.

Članak 26. (Obveze korisnika visokorizičnih sustava UI) dopunjuje Članak 50. postavljanjem širih operativnih odgovornosti korisnika, uključujući nadzor i ljudski nadzor, unutar kojih se nalazi obveza otkrivanja iz Članka 50.

Članci 53. i 54. (Obveze za pružatelje modela UI opće namjene) izravno su povezani s člankom 50. stavkom 5., koji postavlja zahtjeve vodenih žigova i strojne čitljivosti na pružatelje modela opće namjene — zahtjeve koji se moraju odraziti u tehničkoj dokumentaciji i mjerama usklađenosti modela prema Člancima 53.–54.

Uvodne izjave 132.–134. pružaju interpretativne smjernice o namjeri Glave IV., pojašnjavajući opseg odredbi o deepfakeovima i prepoznavanju emocija te značenje "vidljivo iz konteksta" u odredbama o iznimkama.

Vremenski plan usklađenosti

Zakon EU o UI stupio je na snagu 1. kolovoza 2024. (20 dana nakon objave u Službenom listu 12. srpnja 2024.). Uredba se primjenjuje postupno:

• 2. veljače 2025. — Zabranjene prakse UI prema Članku 5. postale su primjenjive.
• 2. kolovoza 2025. — Obveze koje se odnose na modele UI opće namjene (Glava VIII., Članci 51.–56.) i upravljačke strukture postale su primjenjive.
• 2. kolovoza 2026. — Glava IV., uključujući Članak 50., postala je u potpunosti primjenjiva. Pružatelji i korisnici konverzacijskog UI, sustava sintetičkog sadržaja, sustava za prepoznavanje emocija i sustava biometrijske kategorizacije bili su dužni imati uspostavljene usklađene mehanizme otkrivanja do ovog datuma.
• 2. prosinca 2026. — Visokorizični sustavi UI navedeni u Prilogu I. (zakonodavstvo o sigurnosti proizvoda) moraju ispuniti pune visokorizične obveze.
• 2. kolovoza 2027. — Visokorizični sustavi UI navedeni u Prilogu III. koji su već u upotrebi (postojeći sustavi stavljeni na tržište prije kolovoza 2024.) moraju biti usklađeni.

Organizacije koje do 2. kolovoza 2026. još nisu implementirale mehanizme otkrivanja usklađene s Člankom 50. već krše Uredbu i trebale bi tretirati otklanjanje nedostataka kao neposredni prioritet.