Článek 50 — Povinnosti transparentnosti pro poskytovatele a nasazovatele určitých systémů AI (nařízení EU o AI)

Článek 50 nařízení (EU) 2024/1689 — Povinnosti transparentnosti pro poskytovatele a nasazovatele určitých systémů AI. Oficiální znění, praktický výklad, klíčové povinnosti a důsledky pro soulad s předpisy.

Shrnutí úředního textu

Článek 50 nařízení (EU) 2024/1689 (nařízení EU o AI) stanovuje povinnosti transparentnosti pro poskytovatele a nasazovatele konkrétních kategorií systémů AI. Je základním ustanovením hlavy IV a řeší riziko, že fyzické osoby mohou být oklamány ohledně toho, zda interagují s člověkem nebo systémem AI, nebo zda obsah, který konzumují, byl uměle vygenerován.

Podle článku 50 odst. 1 musí poskytovatelé systémů AI navržených k přímé interakci s fyzickými osobami zajistit, aby tyto systémy byly navrženy způsobem, který uživatelům umožní být jasně a jednoznačně informováni, že interagují se systémem AI. Tato povinnost spočívá na poskytovateli ve fázi návrhu.

Článek 50 odst. 2 rozšiřuje povinnosti na nasazovatele: každý nasazovatel používající systém rozpoznávání emocí nebo systém biometrické kategorizace musí informovat fyzické osoby vystavené jeho provozu o jeho fungování.

Článek 50 odst. 3 vyžaduje, aby nasazovatelé používající systémy AI ke generování nebo manipulaci obrazového, zvukového nebo video obsahu představujícího deepfake zveřejnili, že obsah byl uměle vygenerován nebo zmanipulován. Úzká výjimka se uplatní, pokud je takové použití zjevně legitimní nebo tvůrčí nezbytností.

Článek 50 odst. 4 se zabývá textem generovaným AI a zveřejněným za účelem informování veřejnosti o záležitostech veřejného zájmu — nasazovatelé musí zveřejnit, že text byl vytvořen systémem AI, pokud neproběhlo redakční lidské přezkoumání a výstup nebyl podstatně upraven.

Článek 50 odst. 5 ukládá povinnosti poskytovatelům modelů umělé inteligence pro obecné účely (GPAI), aby zajistili, že výstupy jsou strojově čitelné a lze je identifikovat jako generované AI, zejména pro syntetický zvukový, obrazový, video nebo textový obsah.

Praktický dopad

Článek 50 se přímo dotýká každé organizace, která buduje nebo nasazuje systémy AI interagující s lidmi nebo generující obsah prezentovaný lidem.

Pro poskytovatele technologií vzniká klíčová povinnost ve fázi návrhu a vývoje. Společnost budující zákaznický chatbot musí navrhnout mechanismus zveřejnění — jasné, přímé oznámení informující uživatele, že interaguje se systémem AI — před uvedením produktu na trh nebo do provozu. Nemůže to být dodatečná myšlenka ani poznámka pod čarou v podmínkách použití.

Pro nasazovatele — společnosti integrující nástroje AI třetích stran do svého provozu — je povinnost provozní. Banka nasazující virtuálního asistenta řízeného AI musí zajistit, aby zákazníci byli na začátku každé interakce informováni, že mluví s AI. Mediální organizace používající AI k psaní článků musí takový obsah označit jako generovaný AI, pokud ho podstatně nepřezkoumala a nepřepracovala kvalifikovaná lidská redakce.

Pro syntetický obsah a deepfaky je povinnost obzvláště přísná. Marketingové týmy používající AI-generované obrázky osob nebo výrobci médií vytvářející AI-namluvený zvuk musí k takovému obsahu připojit zveřejnění — nejlépe strojově čitelné. Platformy distribuující takový obsah jsou vybízeny, a v některých výkladech povinny, zpřístupňovat tato označení koncovým uživatelům.

V praxi by organizace měly provést inventarizaci svých systémů AI, aby identifikovaly, které z nich spadají do rozsahu článku 50, definovat šablonu zveřejnění v souladu s požadavky článku a implementovat technické kontroly — vodoznaky, vkládání metadat nebo bannery na úrovni uživatelského rozhraní — aby byl soulad systematický, nikoli manuální. Interní školení pro týmy nasazující nástroje AI je vhodné, aby byly povinnosti zveřejnění vnímány jako požadavek pracovního postupu, nikoli jako právní abstrakce.

Klíčové povinnosti

• Návrhová povinnost poskytovatele: Poskytovatelé musí navrhovat systémy AI určené k interakci s fyzickými osobami tak, aby tyto systémy mohly jasně a jednoznačně zveřejnit svou povahu AI před interakcí nebo na jejím začátku.
• Zveřejnění nasazovatelem — konverzační AI: Nasazovatelé používající systémy AI k přímé interakci s koncovými uživateli musí tyto uživatele včas a srozumitelně informovat, že interagují se systémem AI, pokud to není zjevné z kontextu.
• Zveřejnění nasazovatelem — rozpoznávání emocí a biometrická kategorizace: Nasazovatelé provozující systémy rozpoznávání emocí nebo biometrické kategorizace musí informovat fyzické osoby podřízené těmto systémům o jejich použití a fungování.
• Označení deepfaků: Nasazovatelé používající AI ke generování nebo manipulaci obsahu deepfake (obraz, zvuk, video připomínající skutečné osoby, místa nebo události) musí jasně zveřejnit syntetickou nebo zmanipulovanou povahu takového obsahu.
• Text generovaný AI pro veřejné informace: Nasazovatelé zveřejňující text generovaný AI zaměřený na informování veřejnosti o záležitostech veřejného zájmu jej musí označit jako generovaný AI, s výjimkou případů, kdy lidská redakční kontrola vedla k podstatné úpravě.
• Strojově čitelné vodoznaky pro GPAI: Poskytovatelé modelů umělé inteligence pro obecné účely generujících syntetický obsah musí implementovat technická řešení — jako vodoznaky nebo označení metadat — aby bylo možné výstupy identifikovat jako generované AI a aby byly strojově detekovatelné navazujícími systémy.

Vztah k jiným článkům

Článek 50 funguje v rámci širší architektury transparentnosti nařízení EU o AI a musí být čten ve spojení s několika dalšími ustanoveními.

Článek 13 (Transparentnost a poskytování informací pro systémy AI s vysokým rizikem) stanovuje paralelní požadavky transparentnosti pro vysoce rizikové systémy, zaměřující se na dokumentaci a vysvětlitelnost směřovanou k nasazovatelům, nikoli ke koncovým uživatelům. Tam, kde vysoce rizikový systém rovněž interaguje s fyzickými osobami, se souběžně uplatňují články 13 i 50.

Článek 26 (Povinnosti nasazovatelů systémů AI s vysokým rizikem) doplňuje článek 50 tím, že stanovuje širší provozní odpovědnosti nasazovatelů, včetně monitorování a lidského dohledu, v rámci nichž povinnost zveřejnění podle článku 50 spočívá.

Články 53 a 54 (Povinnosti pro poskytovatele modelů GPAI) jsou přímo spojeny s článkem 50 odst. 5, který ukládá poskytovatelům GPAI požadavky na vodoznaky a strojovou čitelnost — požadavky, které musí být promítnuty do technické dokumentace a opatření pro soulad modelu podle článků 53–54.

Body odůvodnění 132–134 poskytují výkladové vedení ohledně záměru hlavy IV, objasňují rozsah ustanovení o deepfacích a rozpoznávání emocí a význam výrazu „zjevné z kontextu" v ustanoveních o výjimkách.

Časový harmonogram souladu s předpisy

Nařízení EU o AI vstoupilo v platnost dne 1. srpna 2024 (20 dní po zveřejnění v Úředním věstníku dne 12. července 2024). Nařízení se uplatňuje postupně:

• 2. února 2025 — Zakázané praktiky v oblasti AI podle článku 5 se staly použitelnými.
• 2. srpna 2025 — Povinnosti týkající se modelů umělé inteligence pro obecné účely (hlava VIII, články 51–56) a struktury správy se staly použitelnými.
• 2. srpna 2026 — Hlava IV, včetně článku 50, se stala plně použitelnou. Poskytovatelé a nasazovatelé konverzační AI, systémů syntetického obsahu, systémů rozpoznávání emocí a systémů biometrické kategorizace museli mít vyhovující mechanismy zveřejnění zavedeny do tohoto data.
• 2. prosince 2026 — Systémy AI s vysokým rizikem uvedené v příloze I (právní předpisy o bezpečnosti výrobků) musí splňovat plné povinnosti pro vysoce rizikové systémy.
• 2. srpna 2027 — Systémy AI s vysokým rizikem uvedené v příloze III, které jsou již v provozu (stávající systémy uvedené na trh před srpnem 2024), musí vyhovovat.

Organizace, které do 2. srpna 2026 nezavedly mechanismy zveřejnění vyhovující článku 50, jsou již v rozporu s nařízením a měly by považovat nápravu za okamžitou prioritu.