Povinnosti transparentnosti EU AI Act (čl. 50) — chatboti, deepfaky a syntetický obsah

Většina systémů AI není vysoce riziková — spadá pod povinnosti transparentnosti čl. 50. Pokud nasazujete chatbota, generujete syntetické obrázky nebo používáte rozpoznávání emocí, přesně zde je to, co musíte sdělit a označit.

Na koho se vztahuje čl. 50 (nikoli vysoce rizikové systémy)

EU AI Act zavádí stupňovaný rámec rizika. Většina dnes nasazených systémů AI nesplňuje podmínky pro vysoce rizikové systémy podle Přílohy III nebo Přílohy I — spadají do jedné ze dvou lehčích kategorií:

• Pouze povinnosti transparentnosti (čl. 50): chatboti, generátory deepfake, systémy syntetického obsahu, systémy rozpoznávání emocí a nástroje biometrické kategorizace
• Minimální riziko: spamové filtry, AI ve hrách, doporučovací systémy — podléhají pouze dobrovolným kodexům chování

Kritický rozdíl od vysoce rizikových systémů Přílohy III spočívá v tom, že systémy pouze s povinností transparentnosti vyžadují zveřejnění, nikoli posouzení shody, technickou dokumentaci nebo označení CE. Zátěž je podstatně nižší, ale nesoulad je stále žalovatelný přestupek s pokutami dosahujícími 7,5 milionu EUR.

Pochopení, do které úrovně váš systém patří, je prvním krokem souladu. Nástroj klasifikátoru rizik AI vám může pomoci určit, které povinnosti platí.

Čl. 50(1) — Konverzační AI a chatboti

Jakýkoli systém AI navržený k přímé interakci s fyzickými osobami musí uživatele informovat, že interagují se systémem AI. Zveřejnění musí být:

• Včasné — učiněno na začátku interakce, před zahájením smysluplné výměny
• Jasné a rozlišitelné — nezahrabané v podmínkách služby nebo v malém tisku patičky
• Srozumitelné — přizpůsobené kontextu tak, aby to osoba skutečně pochopila

Rozsah: Roboty zákaznického servisu, virtuální asistenti, AI telefonní agenti, konverzační AI zabudovaná v sociálních médiích a chat podpory napájený AI na webech. Pokud lidské rozhraní používá jazykový model k vedení dialogu, platí čl. 50(1).

Výjimka 1: Kde je povaha AI zřejmá z kontextu — například jasně označený AI asistent s avatarem robota v produktovém rozhraní — může být povinnost zveřejnění považována za splněnou. „Zřejmý" je však vysoká laťka; implicitní UI náznaky samotné pravděpodobně nestačí tam, kde uživatelé mohli rozumně věřit, že mluví s člověkem.

Výjimka 2: Systémy autorizované vnitrostátním právem pro účely vymáhání práva (např. nástroje pro utajené vyšetřování používané příslušnými orgány).

Lhůta pro soulad: 2. srpna 2026 (prodloužena Digital Omnibem 2026 z původního data 2. srpna 2025). Systémy nasazené před tímto datem musí být uvedeny do souladu — neexistuje žádná dědečkova klauzule.

Čl. 50(2) — Zveřejnění rozpoznávání emocí

Poskytovatelé a provozovatelé systémů rozpoznávání emocí musí informovat fyzické osoby, jejichž emocionální nebo psychologický stav je odvozován. To zahrnuje systémy, které detekují, klasifikují nebo skórují emoce jako štěstí, hněv, tíseň, angažovanost nebo klam z výrazů obličeje, tónu hlasu, fyziologických signálů nebo behaviorálních podnětů.

Rozsah: Nástroje pro analýzu HR pohovorů, které skórují angažovanost nebo stres kandidátů; systémy sledování sentimentu zákazníků monitorující interakce call centra; bezpečnostní screeningové nástroje tvrdící, že detekují klamný úmysl; maloobchodní systémy sledující emocionální reakci na produkty.

Nepokrývá: Systémy AI, které detekují fyziologické stavy čistě pro bezpečnostní účely — například systémy detekce ospalosti řidiče, které monitorují pohyb očí a spustí výstrahu, ale nevyvozují ani nezaznamenávají emocionální stavy pro jiné použití. Bezpečnostní výjimka je úzká; systémy přeúčelované pro profilování ji ztrácejí.

Kde je systém rozpoznávání emocí také vysoce rizikovým systémem podle Přílohy III (např. screening při zaměstnání), platí nad rámec zveřejnění čl. 50(2) plné povinnosti pro vysoce rizikové systémy.

Čl. 50(3) — Zveřejnění biometrické kategorizace

Systémy AI, které odvozují citlivé osobní atributy — včetně rasového nebo etnického původu, politických názorů, členství v odborech, náboženského nebo filozofického přesvědčení nebo sexuální orientace — z biometrických dat musí informovat osoby vystavené systému.

Tato povinnost platí pro systémy, které kategorizují jednotlivce na základě biometrických vstupů, bez ohledu na to, zda kategorizace je primárním účelem nebo odvozením. Systém, který používá rozpoznávání obličeje k odvozování pravděpodobných demografických atributů, spouští čl. 50(3), i když jeho uvedený účel je jiný.

Důležitá hranice s čl. 5: Biometrická identifikace na dálku v reálném čase na veřejně přístupných místech ze strany vymáhání práva je přímo zakázána podle čl. 5, nikoli jen předmětem zveřejnění. Kde je systém zakázán, povinnosti transparentnosti jsou irelevantní — nelze jej vůbec zákonně nasadit. Viz zakázané praktiky podle čl. 5 pro úplný seznam zakázaných systémů.

Čl. 50(4) — Označování obsahu generovaného AI a syntetického obsahu

Poskytovatelé systémů AI, které generují nebo manipulují syntetický audio, obrazový, video nebo textový obsah ve velkém měřítku, musí technicky označit výstup ve strojově čitelném formátu. Označení musí:

• Být detekovatelné a interoperabilní napříč platformami a ověřovacími nástroji
• Přetrvávat, když je obsah sdílen, překódován nebo přerozšiřován
• Splňovat technický standard vyvíjený Evropským Úřadem pro AI (standard původu obsahu generovaného AI, někdy označovaný jako ATMF)

Rozsah: Generátory text-do-obrazu (ekvivalenty Midjourney, Stable Diffusion, DALL-E); nástroje pro syntézu videa a deepfake videa; systémy klonování hlasu; AI psací asistenti produkující výstup ve velkém měřítku (např. automatizovaná generace zpráv, marketingové texty ve velkém bez redakční kontroly).

Výjimka: Systémy AI generující obsah, který prošel lidskou redakční kontrolou, za nějž člověk přebírá redakční odpovědnost. Novinář používající nástroj pro psaní s podporou AI, přezkoumávající a podstatně upravující výstup před zveřejněním, nespadá pod povinnost označování pro toto konkrétní použití. Stejný systém nasazený bez redakčního dohledu nikoliv.

Poskytovatelé by měli implementovat technické označování na úrovni infrastruktury — vodoznakování, kryptografická metadata původu nebo obsahové přihlašovací údaje vyhovující normám — nikoli jako volitelnou funkci, ale jako výchozí chování výstupu.

Čl. 50(5) — Povinnost provozovatele zveřejnit deepfake

Kde provozovatel používá systém AI k produkci obsahu deepfake — syntetických nebo manipulovaných obrázků, zvuku nebo videa skutečných osob — musí provozovatel jasně označit obsah jako generovaný nebo manipulovaný AI. Označení musí být:

• Viditelné v případě obrazového nebo video obsahu
• Slyšitelné v případě zvukového obsahu
• Umístěno způsobem, který je zjevný publiku, nikoli pouze zabudováno v metadatech

Výjimky: Obsah produkovaný pro satiru, parodii nebo umělecké vyjádření, kde je povaha generovaná AI zřejmá publiku. Tvůrci pracující v jasně parodických nebo satirických formátech by nicméně měli dokumentovat svůj záměr, protože orgány vymáhání posoudí, zda byla povaha AI skutečně zřejmá v kontextu.

Tato povinnost leží na provozovateli — organizaci nebo osobě, která obsah uvede do provozu — nejen na poskytovateli systému. Marketingová agentura používající nástroj deepfake videa třetí strany je provozovatelem a nese povinnost označování.

Praktické kroky souladu podle typu systému

Provozovatelé používající systémy AI třetích stran nesou povinnosti transparentnosti nezávisle na tom, zda je splnil poskytovatel. Provozovatel se nemůže spoléhat na zveřejnění poskytovatele jako náhradu za vlastní.

Vztah s GDPR

Povinnosti transparentnosti čl. 50 jsou právně nezávislé na čl. 22 GDPR (automatizované individuální rozhodování). Stejný systém může vyvolat oba rámce současně.

Příklad: Chatbot používaný jako první fáze procesu žádosti o půjčku musí:

1. Sdělit, že jde o systém AI, na začátku konverzace (čl. 50(1))
2. Pokud chatbot přijímá nebo smysluplně přispívá k výlučně automatizovanému rozhodnutí s právními nebo podobně závažnými účinky, musí provozovatel také poskytnout práva podle čl. 22 GDPR — právo nebýt předmětem automatizovaného rozhodnutí, právo na lidský přezkum a právo na vysvětlení

Organizace nasazující AI v regulovaných odvětvích (finanční služby, pojišťovnictví, HR) by měly mapovat povinnosti čl. 50 i uplatitelnost čl. 22 GDPR v rámci stejného přezkumu souladu. Rámce jsou komplementární, nikoli vzájemně se vylučující.

Pokuty za nesoulad

Porušení povinností transparentnosti čl. 50 nese pokuty až 7,5 milionu EUR nebo 1,5 % celkového celosvětového ročního obratu za předchozí finanční rok, podle toho, co je vyšší. Pro malé a střední podniky a startupy procentní strop obecně produkuje nižší číslo; pro velké podniky je pravděpodobnější, že se uplatní absolutní strop.

Pravomoc vymáhání spočívá ve vnitrostátních orgánech dozoru nad trhem jmenovaných podle čl. 74 a v Úřadu EU pro AI pro poskytovatele modelů GPAI. Dozorové akce mohou zahrnovat formální vyšetřování, předběžná opatření, příkazy k pozastavení nasazení a veřejné zveřejnění zjištění.

Další kroky

• Použijte klasifikátor rizik AI k určení, zda je váš systém pouze s povinností transparentnosti nebo vysoce rizikový
• Přezkouměte zakázané praktiky podle čl. 5, abyste potvrdili, že váš systém nespadá do zakázané kategorie, před posuzováním povinností transparentnosti
• Sledujte zveřejnění standardu původu obsahu generovaného AI Evropským Úřadem pro AI pro technické požadavky na označování podle čl. 50(4)