Povinnosti transparentnosti nariadenia EÚ o AI (čl. 50) — Chatboty, Deepfakes a Syntetický obsah

Väčšina systémov AI nie je vysokoriziková — spadá pod povinnosti transparentnosti čl. 50. Ak nasadzujete chatbot, generujete syntetické obrázky alebo používate rozpoznávanie emócií, tu je presne to, čo musíte zverejniť a označiť.

Kto spadá pod čl. 50 (Nie vysokorizikový)

Nariadenie EÚ o AI stanovuje vrstvový rámec rizík. Väčšina systémov AI nasadených dnes nespĺňa podmienky vysokorizikového podľa Prílohy III alebo Prílohy I — spadá do jednej z dvoch ľahších kategórií:

• Iba povinnosti transparentnosti (čl. 50): chatboty, generátory deepfake, systémy syntetického obsahu, systémy rozpoznávania emócií a nástroje biometrickej kategorizácie
• Minimálne riziko: filtre spamu, AI vo hrách, odporúčacie systémy — predmetom iba dobrovoľných kódexov správania

Kritický rozdiel od vysokorizikových systémov Prílohy III je ten, že systémy iba s transparentnosťou vyžadujú zverejnenie, nie posúdenie zhody, technickú dokumentáciu ani označenie CE. Záťaž je výrazne nižšia, ale nedodržanie je stále postihnuteľným trestným činom s pokutami dosahujúcimi 7,5 milióna EUR.

Pochopenie, do ktorej úrovne váš systém patrí, je prvým krokom súladu. Nástroj na klasifikáciu rizík AI vám môže pomôcť určiť, ktoré povinnosti platia.

Čl. 50 ods. 1 — Konverzačná AI a chatboty

Akýkoľvek systém AI navrhnutý na priamu interakciu s fyzickými osobami musí notifikovať používateľa, že interaguje so systémom AI. Zverejnenie musí byť:

• Včasné — vykonané na začiatku interakcie, pred začiatkom zmysluplnej výmeny
• Jasné a rozlíšiteľné — nezahrabané v podmienkach služby ani v zápatí s malým písmom
• Zrozumiteľné — prispôsobené kontextu tak, aby tomu osoba skutočne rozumela

Rozsah: Boty zákazníckeho servisu, virtuálni asistenti, AI telefónni agenti, konverzačná AI zabudovaná v sociálnych médiách a AI-poháňaný support chat na webových stránkach. Ak ľudsky orientované rozhranie používa jazykový model na vedenie dialógu, platí čl. 50 ods. 1.

Výnimka 1: Kde je povaha AI zrejmá z kontextu — napríklad jasne označený AI asistent s avatárom robota v produktovom rozhraní — povinnosť zverejnenia môže byť považovaná za splnenú. Ale „zrejmé" je vysoká latva; samotné implicitné UI narážky pravdepodobne nepostačia, kde by používatelia rozumne mohli veriť, že hovoria s človekom.

Výnimka 2: Systémy povolené národným právom na účely presadzovania práva (napr. skryté vyšetrovacie nástroje používané príslušnými orgánmi).

Termín súladu: 2. august 2026 (predĺžený Digitálnym balíčkom Omnibus 2026 z pôvodného 2. augusta 2025). Systémy nasadené pred týmto termínom musia byť uvedené do súladu — nie grandfathered.

Čl. 50 ods. 2 — Zverejnenie rozpoznávania emócií

Poskytovatelia a nasadzujúce subjekty systémov rozpoznávania emócií musia informovať fyzické osoby, ktorých emocionálny alebo psychologický stav je odvodzovaný. To zahŕňa systémy, ktoré detegujú, klasifikujú alebo skórujú emócie ako radosť, hnev, tieseň, záujem alebo klamanie z výrazov tváre, tónu hlasu, fyziologických signálov alebo behaviorálnych narážok.

Rozsah: Nástroje na analýzu HR pohovorov, ktoré skórujú záujem alebo stres kandidáta; systémy zákazníckej nálady monitorujúce interakcie call centier; bezpečnostné skríningové nástroje tvrdiac, že detegujú klamlivý zámer; maloobchodné systémy sledujúce emocionálnu reakciu na výrobky.

Nepokrýva: Systémy AI, ktoré detegujú fyziologické stavy čisto na bezpečnostné účely — napríklad systémy detekcie ospalého vodiča, ktoré monitorujú pohyb očí a spúšťajú upozornenie, ale neodvodzujú ani nezaznamenávajú emocionálne stavy na iné použitia. Výnimka pre bezpečnostný účel je úzka; systémy repurposed na profilovanie strácajú výnimku.

Kde je systém rozpoznávania emócií tiež vysokorizikovým systémom podľa Prílohy III (napr. skríning zamestnania), na vrchu zverejnenia čl. 50 ods. 2 platia plné povinnosti vysokorizikového systému.

Čl. 50 ods. 3 — Zverejnenie biometrickej kategorizácie

Systémy AI, ktoré odvodzujú citlivé osobné atribúty — vrátane rasového alebo etnického pôvodu, politických názorov, členstva v odboroch, náboženského alebo filozofického presvedčenia alebo sexuálnej orientácie — z biometrických údajov, musia informovať dotknuté osoby.

Táto povinnosť platí pre systémy, ktoré kategorizujú jednotlivcov na základe biometrických vstupov, bez ohľadu na to, či kategorizácia je primárnym účelom alebo následnou inferenciu. Systém, ktorý používa rozpoznávanie tváre na odvodenie pravdepodobných demografických atribútov, spúšťa čl. 50 ods. 3 aj keď jeho uvedený účel je niečo iné.

Dôležitá hranica s čl. 5: Diaľková biometrická identifikácia v reálnom čase na verejne prístupných miestach orgánmi presadzovania práva je priamo zakázaná podľa čl. 5, nie len predmetom zverejnenia. Kde je systém zakázaný, povinnosti transparentnosti sú irelevantné — nemôže byť legálne nasadený vôbec. Pozrite zakázané postupy podľa čl. 5 pre úplný zoznam zakázaných systémov.

Čl. 50 ods. 4 — Označovanie obsahu generovaného AI a syntetického obsahu

Poskytovatelia systémov AI, ktoré vo veľkom rozsahu generujú alebo manipulujú syntetické zvukové, obrazové, video alebo textové obsahy, musia technicky označiť výstup v strojovo čitateľnom formáte. Označenie musí:

• Byť detekovateľné a interoperabilné naprieč platformami a overovacími nástrojmi
• Pretrvávať, keď je obsah zdieľaný, prekódovaný alebo redistribuovaný
• Spĺňať technickú normu vyvíjanú Európskym úradom pre AI (norma pôvodu obsahu generovaného AI, niekedy označovaná ako ATMF)

Rozsah: Generátory text-na-obrázok (ekvivalenty Midjourney, Stable Diffusion, DALL-E); nástroje syntézy videa a deepfake videa; systémy klonovania hlasu; AI pomocníci na písanie produkujúci veľkorozmerný výstup (napr. automatizovaná generácia správ, marketingový text vo veľkom rozsahu bez redakčnej kontroly).

Výnimka: Systémy AI generujúce obsah, ktorý prešiel ľudskou redakčnou kontrolou, za ktorú ľudský preberá redakčnú zodpovednosť. Novinár používajúci nástroj AI na koncepty, preskúmavajúci a podstatne upravujúci výstup pred zverejnením, nespadá do povinnosti označovania pre toto konkrétne použitie. Rovnaký systém nasadený bez redakčného dohľadu tak nerobí.

Poskytovatelia by mali implementovať technické označovanie na úrovni infraštruktúry — vodoznaky, kryptografické metadáta pôvodu alebo obsah podľa noriem — nie ako volitelnú funkciu, ale ako predvolené správanie výstupu.

Čl. 50 ods. 5 — Povinnosť nasadzujúceho subjektu pre zverejnenie deepfake

Kde nasadzujúci subjekt používa systém AI na produkciu obsahu deepfake — syntetických alebo manipulovaných obrázkov, zvuku alebo videa skutočných osôb — nasadzujúci subjekt musí jasne označiť obsah ako generovaný AI alebo manipulovaný. Štítok musí byť:

• Viditeľný v prípade obrazového alebo video obsahu
• Počuteľný v prípade zvukového obsahu
• Umiestnený tak, že je zjavný pre publikum, nie iba zabudovaný v metadátach

Výnimky: Obsah vytvorený na satiru, paródiu alebo umelecké vyjadrenie, kde je povaha generovaná AI pre publikum zrejmá. Tvorcovia pracujúci v jasne parodických alebo satirických formátoch by mali napriek tomu dokumentovať svoj zámer, keďže orgány presadzovania posúdia, či bola povaha AI skutočne zrejmá v kontexte.

Táto povinnosť padá na nasadzujúci subjekt — organizáciu alebo jednotlivca, ktorý uvádza obsah do použitia — nielen na poskytovateľa systému. Marketingová agentúra používajúca nástroj deepfake videa tretej strany je nasadzujúcim subjektom a nesie povinnosť označovania.

Praktické kroky dodržiavania podľa typu systému

Nasadzujúce subjekty, ktoré používajú systémy AI tretích strán, nesú povinnosti transparentnosti nezávisle od toho, či ich poskytovateľ splnil svoje. Nasadzujúci subjekt sa nemôže spoliehať na zverejnenie poskytovateľa ako náhradu za vlastné.

Vzťah s GDPR

Povinnosti transparentnosti čl. 50 sú právne nezávislé od čl. 22 GDPR (automatizované individuálne rozhodovanie). Rovnaký systém môže súčasne spúšťať oba rámce.

Príklad: Chatbot používaný ako prvá fáza procesu žiadosti o pôžičku musí:

1. Zverejniť, že je systémom AI na začiatku konverzácie (čl. 50 ods. 1)
2. Ak chatbot robí alebo zmysluplne prispieva k výlučne automatizovanému rozhodnutiu s právnymi alebo podobne výraznými účinkami, nasadzujúci subjekt musí tiež poskytnúť práva podľa čl. 22 GDPR — právo nebyť predmetom automatizovaného rozhodnutia, právo na ľudské preskúmanie a právo na vysvetlenie

Organizácie nasadzujúce AI v regulovaných sektoroch (finančné služby, poistenie, ľudské zdroje) by mali mapovať povinnosti čl. 50 aj uplatniteľnosť čl. 22 GDPR ako súčasť rovnakého preskúmania dodržiavania. Rámce sú komplementárne, nie vzájomne sa vylučujúce.

Pokuty za nedodržanie

Porušenia povinností transparentnosti čl. 50 nesú pokuty až do výšky 7,5 milióna EUR alebo 1,5 % z celkového celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho, čo je vyššie. Pre MSP a začínajúce podniky percentná hranica zvyčajne produkuje nižšiu sumu; pre veľké podniky je pravdepodobnejšie uplatniť absolútnu hranicu.

Právomoc presadzovania spočíva u národných orgánov trhového dohľadu určených podľa čl. 74 a u Úradu EÚ pre AI pre poskytovateľov modelov GPAI. Dozorné opatrenia môžu zahŕňať formálne vyšetrovania, predbežné opatrenia, príkazy na pozastavenie nasadenia a verejné zverejnenie zistení.

Nedodržanie povinností označovania a označovania sa očakáva, že bude medzi prvými prioritami presadzovania vzhľadom na vysokú verejnú výraznosť syntetických médií a deepfakes — regulátori v niekoľkých členských štátoch už signalizovali zámer konať v súvislosti s neoznačeným obsahom generovaným AI pred tým, ako sa operacionalizuje širšie presadzovanie vysokorizikových systémov.

Ďalšie kroky

• Použite klasifikátor rizík AI na určenie, či je váš systém iba s transparentnosťou alebo vysokorizikový
• Preskúmajte zakázané postupy podľa čl. 5 na potvrdenie, že váš systém nespadá do zakázanej kategórie pred posúdením povinností transparentnosti
• Monitorujte zverejnenie normy pôvodu obsahu generovaného AI Európskym úradom pre AI pre technické požiadavky označovania čl. 50 ods. 4