Obveze transparentnosti EU AI akta (Čl. 50) — Chatbotovi, duboke lažnjake i sintetički sadržaj

Većina AI sustava nije visokorizična — potpadaju pod obveze transparentnosti prema Čl. 50. Ako raspoređujete chatbot, generiraju sintetičke slike ili koristite prepoznavanje emocija, evo točno što morate objaviti i označiti.

Tko potpada pod Čl. 50 (nije visokorizičan)

EU AI akt uspostavlja stupnjeviti okvir rizika. Većina AI sustava koji se danas raspoređuju ne kvalificira se kao visokorizičan prema Prilogu III ili Prilogu I — potpadaju u jednu od dvije lakše kategorije:

• Samo obveze transparentnosti (Čl. 50): chatbotovi, generatori dubokih lažnjaka, sustavi sintetičkog sadržaja, sustavi za prepoznavanje emocija i biometrijski alati za kategorizaciju
• Minimalni rizik: filteri neželjene pošte, AI u igrama, sustavi preporuka — podložni samo dobrovoljnim kodeksima ponašanja

Kritična razlika od visokorizičnih sustava prema Prilogu III je da sustavi samo s transparentnošću zahtijevaju otkrivanje, ne ocjenu sukladnosti, tehničku dokumentaciju ili CE oznaku. Opterećenje je znatno niže, ali neusklađenost je i dalje sankcionabilna povreda s kaznama koje dosežu 7,5 milijuna EUR.

Razumijevanje koje razine vaš sustav zauzima prvi je korak usklađivanja. Alat klasifikatora AI rizika može vam pomoći odrediti koje se obveze primjenjuju.

Čl. 50(1) — Konverzacijski AI i chatbotovi

Svaki AI sustav osmišljen za izravnu interakciju s fizičkim osobama mora obavijestiti korisnika da komunicira s AI sustavom. Otkrivanje mora biti:

• Pravovremeno — napravljeno na početku interakcije, prije početka smislene razmjene
• Jasno i prepoznatljivo — nije zakopano u uvjetima usluge ili malim pismom u podnožju
• Razumljivo — prilagođeno kontekstu kako bi osoba zaista razumjela

Opseg: Botovi korisničke podrške, virtualni asistenti, AI telefonski agenti, konverzacijski AI ugrađen u društvene mreže i AI potpomognuta podrška na web stranicama. Ako sučelje prema čovjeku koristi jezični model za vođenje dijaloga, primjenjuje se Čl. 50(1).

Iznimka 1: Gdje je AI priroda očita iz konteksta — na primjer, jasno brendirani AI asistent s robotskim avatarom u sučelju proizvoda — obveza otkrivanja može se smatrati ispunjenom. Ali "očito" je visoka ljestvica; implicirani signali korisničkog sučelja sami po sebi vjerojatno nisu dovoljni gdje bi korisnici mogli razumno vjerovati da razgovaraju s čovjekom.

Iznimka 2: Sustavi odobreni od strane nacionalnog prava za svrhe kaznenog pravosuđa (npr. prikriveni istražni alati koje koriste nadležna tijela).

Rok usklađivanja: 2. kolovoza 2026. (produženo Digitalnim omnibusom 2026. od originalnog datuma 2. kolovoza 2025.). Sustavi raspoređeni prije ovog roka moraju biti usklađeni — nema grandfatheringa.

Čl. 50(2) — Otkrivanje prepoznavanja emocija

Pružatelji i korisnici sustava za prepoznavanje emocija moraju obavijestiti fizičke osobe čije emocionalno ili psihološko stanje se zaključuje. To uključuje sustave koji otkrivaju, klasificiraju ili boduju emocije poput sreće, ljutnje, stresa, angažiranosti ili obmane iz izraza lica, tona glasa, fizioloških signala ili bihevioralnih znakova.

Opseg: HR alati za analizu intervjua koji boduju angažiranost ili stres kandidata; sustavi sentimenta kupaca koji prate interakcije u call centru; sigurnosni alati koji tvrde da otkrivaju varanje; maloprodajni sustavi koji prate emocionalni odgovor na proizvode.

Nije obuhvaćeno: AI sustavi koji otkrivaju fiziološka stanja isključivo za sigurnosne svrhe — na primjer, sustavi za otkrivanje pospanog vozača koji prate kretanje oka i aktiviraju uzbunu ali ne zaključuju ili bilježe emocionalna stanja za druge svrhe. Izuzeće za sigurnosnu svrhu je usko; sustavi koji se repurpose za profiliranje gube izuzeće.

Gdje je sustav za prepoznavanje emocija ujedno visokorizičan sustav prema Prilogu III (npr. pregled zapošljavanja), pune visokorizične obveze primjenjuju se povrh otkrivanja prema Čl. 50(2).

Čl. 50(3) — Otkrivanje biometrijske kategorizacije

AI sustavi koji zaključuju osjetljive osobne atribute — uključujući rasno ili etničko porijeklo, politička mišljenja, sindikalno članstvo, vjerska ili filozofska uvjerenja, ili seksualnu orijentaciju — iz biometrijskih podataka moraju obavijestiti osobe izložene sustavu.

Ova obveza primjenjuje se na sustave koji kategoriziraju pojedince na temelju biometrijskih ulaza, bez obzira je li kategorizacija primarna svrha ili downstream zaključivanje. Sustav koji koristi prepoznavanje lica za zaključivanje vjerojatnih demografskih atributa aktivira Čl. 50(3) čak i ako mu je navedena svrha nešto drugo.

Važna granica s Čl. 5: Biometrijska identifikacija na daljinu u realnom vremenu na javno dostupnim mjestima od strane kaznenog pravosuđa je u potpunosti zabranjena prema Čl. 5, a ne samo podložna otkrivanju. Gdje je sustav zabranjen, obveze transparentnosti su irelevantne — ne može se zakonito rasporediti. Pogledajte zabranjene prakse prema Čl. 5 za potpuni popis zabranjenih sustava.

Čl. 50(4) — Označavanje AI generiranog i sintetičkog sadržaja

Pružatelji AI sustava koji generiraju ili manipuliraju sintetičkim audiom, slikom, videom ili tekstom u velikom opsegu moraju tehnički označiti izlaz u strojno čitljivom formatu. Oznaka mora:

• Biti otkrivljiva i interoperabilna između platformi i alata za verifikaciju
• Opstati kada se sadržaj dijeli, reenkodira ili redistribuira
• Biti u skladu s tehničkim standardom koji razvija Europski Ured za AI (standard provenijencije AI generiranog sadržaja, ponekad nazvan ATMF)

Opseg: Generatori teksta u sliku (ekvivalenti Midjourney, Stable Diffusion, DALL-E); alati za video sintezu i duboke lažnjake; sustavi za kloniranje glasa; AI alati za pisanje koji proizvode izlaz u velikom opsegu (npr. automatizirano generiranje vijesti, marketinški tekstovi u velikom opsegu bez uređivačke provjere).

Iznimka: AI sustavi koji generiraju sadržaj koji je prošao kroz uređivačku provjeru čovjeka za koji čovjek preuzima uređivačku odgovornost. Novinar koji koristi AI alat za nacrte, pregledava i bitno uređuje izlaz prije objave, izvan je obveze označavanja za tu specifičnu upotrebu. Isti sustav raspoređen bez uređivačkog nadzora nije.

Pružatelji bi trebali implementirati tehničko označavanje na razini infrastrukture — vodeni žig, kriptografski metapodaci provenijencije ili vjerodajnice sadržaja u skladu sa standardima — ne kao opcionalna značajka, već kao zadano ponašanje izlaza.

Čl. 50(5) — Korisnikova obveza za otkrivanje dubokih lažnjaka

Gdje korisnik koristi AI sustav za proizvodnju sadržaja dubokih lažnjaka — sintetičkih ili manipuliranih slika, zvuka ili videa stvarnih osoba — korisnik mora jasno označiti sadržaj kao AI generiran ili manipuliran. Oznaka mora biti:

• Vidljiva u slučaju sadržaja slike ili videa
• Čujna u slučaju audio sadržaja
• Postavljena na način koji je vidljiv publici, ne samo ugrađen u metapodatke

Iznimke: Sadržaj proizveden za satiru, parodiju ili umjetnički izraz gdje je AI generirana priroda očita publici. Kreatori koji rade u jasno parodičnim ili satiričnim formatima trebali bi ipak dokumentirati svoju namjeru, jer će tijela za provedbu procjenjivati je li AI priroda bila istinski očita u kontekstu.

Ova obveza pada na korisnika — organizaciju ili pojedinca koji stavlja sadržaj u upotrebu — ne samo na pružatelja sustava. Marketinška agencija koja koristi alat za duboke lažnjake video sadržaja treće strane je korisnik i snosi obvezu označavanja.

Praktični koraci usklađivanja po vrsti sustava

Korisnici koji koriste AI sustave trećih strana snose obveze transparentnosti neovisno o tome je li pružatelj ispunio svoje. Korisnik se ne može osloniti na otkrivanje pružatelja kao zamjenu za vlastito.

Odnos s GDPR-om

Obveze transparentnosti prema Čl. 50 pravno su neovisne od GDPR Čl. 22 (automatizirano individualno odlučivanje). Isti sustav može istovremeno aktivirati oba okvira.

Primjer: Chatbot koji se koristi kao prva faza procesa zahtjeva za kredit mora:

1. Otkriti da je AI sustav na početku razgovora (Čl. 50(1))
2. Ako chatbot donosi ili značajno doprinosi isključivo automatiziranoj odluci s pravnim ili sličnim značajnim učincima, korisnik mora također pružiti prava prema GDPR Čl. 22 — pravo na nepodlijeganje automatiziranoj odluci, pravo na pregled od strane čovjeka i pravo na objašnjenje

Organizacije koje raspoređuju AI u reguliranim sektorima (financijske usluge, osiguranje, HR) trebale bi mapirati i obveze prema Čl. 50 i primjenjivost GDPR Čl. 22 kao dio iste provjere usklađivanja. Okviri su komplementarni, a ne međusobno isključujući.

Kazne za neusklađenost

Povrede obveza transparentnosti prema Čl. 50 nose kazne do 7,5 milijuna EUR ili 1,5% ukupnog svjetskog godišnjeg prihoda za prethodnu financijsku godinu, koji god je viši. Za MSP-ove i startupe, postotni gornji prag općenito daje niži iznos; za velika poduzeća, apsolutni gornji prag je vjerojatnije primijeniti.

Ovlast provedbe leži kod nacionalnih tijela za nadzor tržišta određenih prema Čl. 74 i kod Ureda za AI EU za pružatelje GPAI modela. Nadzorne radnje mogu uključivati formalne istrage, privremene mjere, naloge za obustavu raspoređivanja i javno objavljivanje nalaza.

Neusklađenost s obvezama označavanja i obilježavanja očekuje se da bude jedna od prvih prioriteta provedbe s obzirom na visoku javnu salijentnos sintetičkih medija i dubokih lažnjaka — regulatori u nekoliko država članica već su naznačili namjeru djelovanja na neoznačenom AI generiranom sadržaju prije nego što se operacionalizira šira provedba visokorizičnih sustava.

Sljedeći koraci

• Koristite klasifikator AI rizika kako biste utvrdili je li vaš sustav samo s transparentnošću ili visokorizičan
• Pregledajte zabranjene prakse prema Čl. 5 kako biste potvrdili da vaš sustav ne potpada u zabranjenu kategoriju prije procjene obveza transparentnosti
• Pratite objavu standarda provenijencije AI generiranog sadržaja Europskog Ureda za AI za zahtjeve tehničkog označavanja prema Čl. 50(4)