Článok 50 — Povinnosti transparentnosti pre poskytovateľov a prevádzkovateľov určitých systémov AI (Nariadenie EÚ o AI)

Článok 50 nariadenia (EÚ) 2024/1689 — Povinnosti transparentnosti pre poskytovateľov a prevádzkovateľov určitých systémov AI. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre dodržiavanie predpisov.

Zhrnutie oficiálneho textu

Článok 50 nariadenia (EÚ) 2024/1689 (Nariadenie EÚ o AI) stanovuje povinnosti transparentnosti pre poskytovateľov a prevádzkovateľov špecifických kategórií systémov AI. Je to kľúčové ustanovenie Hlavy IV a rieši riziko, že jednotlivci môžu byť zavedení v omyl, pokiaľ ide o to, či interagujú s človekom alebo systémom AI, alebo či obsah, ktorý konzumujú, bol umelo vygenerovaný.

Podľa Článku 50(1) poskytovatelia systémov AI navrhnutých na priamu interakciu s fyzickými osobami musia zabezpečiť, aby tieto systémy boli navrhnuté tak, aby používatelia mohli byť informovaní, jasne a bez akýchkoľvek pochybností, že interagujú so systémom AI. Táto povinnosť spočíva na poskytovateľovi vo fáze návrhu.

Článok 50(2) rozširuje povinnosti na prevádzkovateľov: každý prevádzkovateľ používajúci systém rozpoznávania emócií alebo systém biometrickej kategorizácie musí informovať fyzické osoby vystavené tomuto systému o jeho fungovaní.

Článok 50(3) vyžaduje, aby prevádzkovatelia používajúci systémy AI na generovanie alebo manipuláciu s obrazovým, audio alebo video obsahom, ktorý predstavuje deepfake, zverejnili, že obsah bol umelo vygenerovaný alebo manipulovaný. Úzka výnimka platí, keď je takéto použitie zjavne legitímne alebo kreatívne nevyhnutné.

Článok 50(4) sa zaoberá textom generovaným AI zverejneným na účely informovania verejnosti o veciach verejného záujmu — prevádzkovatelia musia zverejniť, že text bol vytvorený systémom AI, pokiaľ nebol vykonaný redakčný ľudský preskúmanie a výstup nebol podstatne zmenený.

Článok 50(5) ukladá povinnosti poskytovateľom modelov AI na všeobecné účely (GPAI), aby zabezpečili, že výstupy sú strojovo čitateľné a možno ich identifikovať ako vygenerované AI, najmä pre syntetický audio, obrazový, video alebo textový obsah.

Čo to znamená v praxi

Článok 50 priamo ovplyvňuje každú organizáciu, ktorá buduje alebo nasadzuje systémy AI, ktoré interagujú s ľuďmi alebo generujú obsah prezentovaný ľuďom.

Pre technologických poskytovateľov vzniká kľúčová povinnosť vo fáze návrhu a vývoja. Spoločnosť budujúca chatbota zákazníckeho servisu musí navrhnúť mechanizmus zverejnenia — jasné, priame oznámenie informujúce používateľa, že interaguje so systémom AI — pred uvedením produktu na trh alebo jeho uvedením do prevádzky. Nemôže to byť dodatočná myšlienka ani poznámka pod čiarou v podmienkach poskytovania služieb.

Pre prevádzkovateľov — spoločnosti integrujúce nástroje AI tretích strán do svojich operácií — je povinnosť operatívna. Banka nasadzujúca virtuálneho asistenta poháňaného AI musí zabezpečiť, aby zákazníci boli informovaní na začiatku každej interakcie, že hovoria s AI. Mediálna organizácia používajúca AI na písanie článkov musí označiť tento obsah ako vygenerovaný AI, pokiaľ ho kvalifikovaný ľudský editor materiálne neprezrel a neprepracoval.

V prípade syntetického obsahu a deepfakes je povinnosť obzvlášť prísna. Marketingové tímy používajúce obrazy ľudí generované AI alebo mediálni producenti vytvárajúci audio s hlasom generovaným AI musia k tomuto obsahu priložiť zverejnenie — ideálne strojovo čitateľné. Platformy distribuujúce takýto obsah sú vyzývané, a v niektorých interpretáciách povinné, zobrazovať tieto označenia koncovým používateľom.

V praxi by organizácie mali vykonať inventarizáciu svojich systémov AI, aby identifikovali, ktoré spadajú do rozsahu Článku 50, definovať šablónu zverejnenia v súlade s požiadavkami článku a implementovať technické kontroly — vodoznaky, vkladanie metadát alebo bannery na úrovni používateľského rozhrania — aby sa zabezpečilo, že dodržiavanie predpisov je systematické, nie manuálne. Odporúča sa interné školenie tímov nasadzujúcich nástroje AI, aby sa povinnosti zverejnenia považovali za požiadavku pracovného toku, a nie za právnu abstrakciu.

Kľúčové povinnosti

• Povinnosť návrhu poskytovateľa: Poskytovatelia musia navrhovať systémy AI určené na interakciu s fyzickými osobami tak, aby tieto systémy mohli zverejniť svoju povahu AI jasne a jednoznačne pred interakciou alebo na jej začiatku.
• Zverejnenie prevádzkovateľom — konverzačná AI: Prevádzkovatelia používajúci systémy AI na priamu interakciu s koncovými používateľmi musia týchto používateľov včas a zrozumiteľne informovať, že interagujú so systémom AI, pokiaľ to nie je zjavné z kontextu.
• Zverejnenie prevádzkovateľom — rozpoznávanie emócií a biometrická kategorizácia: Prevádzkovatelia prevádzkujúci systémy rozpoznávania emócií alebo biometrickej kategorizácie musia upozorniť jednotlivcov, na ktorých sa tieto systémy vzťahujú, na ich používanie a fungovanie.
• Označovanie deepfakes: Prevádzkovatelia používajúci AI na generovanie alebo manipuláciu s deepfake obsahom (obraz, audio, video pripomínajúce skutočné osoby, miesta alebo udalosti) musia jasne zverejniť syntetickú alebo manipulovanú povahu tohto obsahu.
• Text generovaný AI pre verejné informácie: Prevádzkovatelia zverejňujúci text generovaný AI zameraný na informovanie verejnosti o veciach verejného záujmu ho musia označiť ako vygenerovaný AI, okrem prípadov, keď ľudský redakčný preskúmanie viedlo k podstatnej zmene.
• Strojovo čitateľný vodoznak pre GPAI: Poskytovatelia modelov AI na všeobecné účely generujúcich syntetický obsah musia implementovať technické riešenia — ako vodoznaky alebo označovanie metadát — aby sa zabezpečilo, že výstupy sú identifikovateľné ako vygenerované AI a strojovo detekovateľné následných systémmi.

Vzťah k iným článkom

Článok 50 funguje v rámci širšej architektúry transparentnosti Nariadenia EÚ o AI a musí sa čítať spolu s niekoľkými ďalšími ustanoveniami.

Článok 13 (Transparentnosť a poskytovanie informácií pre vysokorizikové systémy AI) stanovuje paralelné požiadavky na transparentnosť pre vysokorizikové systémy, zameriavajúc sa na dokumentáciu a vysvetliteľnosť smerom k prevádzkovateľom, a nie ku koncovým používateľom. Keď vysokorizikový systém interaguje aj s fyzickými osobami, Články 13 aj 50 platia súčasne.

Článok 26 (Povinnosti prevádzkovateľov vysokorizikových systémov AI) dopĺňa Článok 50 tým, že stanovuje širšie operatívne zodpovednosti prevádzkovateľov, vrátane monitorovania a ľudského dohľadu, v rámci ktorých je zahrnutá povinnosť zverejnenia podľa Článku 50.

Články 53 a 54 (Povinnosti pre poskytovateľov modelov GPAI) sú priamo prepojené s Článkom 50(5), ktorý ukladá poskytovateľom GPAI požiadavky na vodoznaky a strojovú čitateľnosť — požiadavky, ktoré musia byť zohľadnené v technickej dokumentácii a opatreniach na dodržiavanie predpisov modelov podľa Článkov 53–54.

Odôvodnenia 132–134 poskytujú interpretačné usmernenie k zámerom za Hlavou IV, objasňujúc rozsah ustanovení o deepfakes a rozpoznávaní emócií a význam výrazu „zjavné z kontextu" v ustanoveniach o výnimkách.

Harmonogram dodržiavania predpisov

Nariadenie EÚ o AI vstúpilo do platnosti 1. augusta 2024 (20 dní po uverejnení v Úradnom vestníku 12. júla 2024). Nariadenie sa uplatňuje postupne:

• 2. februára 2025 — Zakázané praktiky AI podľa Článku 5 sa stali uplatniteľnými.
• 2. augusta 2025 — Povinnosti týkajúce sa modelov AI na všeobecné účely (Hlava VIII, Články 51–56) a štruktúr riadenia sa stali uplatniteľnými.
• 2. augusta 2026 — Hlava IV vrátane Článku 50 sa stala plne uplatniteľnou. Poskytovatelia a prevádzkovatelia konverzačnej AI, systémov syntetického obsahu, systémov rozpoznávania emócií a systémov biometrickej kategorizácie museli mať do tohto dátumu zavedené vyhovujúce mechanizmy zverejnenia.
• 2. decembra 2026 — Vysokorizikové systémy AI uvedené v Prílohe I (právne predpisy o bezpečnosti výrobkov) musia spĺňať plné povinnosti pre vysokorizikové systémy.
• 2. augusta 2027 — Vysokorizikové systémy AI uvedené v Prílohe III, ktoré sú už v prevádzke (existujúce systémy uvedené na trh pred augustom 2024), musia spĺňať požiadavky.

Organizácie, ktoré do 2. augusta 2026 neimplementovali mechanizmy zverejnenia v súlade s Článkom 50, sú už v rozpore s nariadením a mali by liečenie považovať za okamžitú prioritu.