Článok 4 — AI gramotnosť (Akt EÚ o umelej inteligencii)

Článok 4 nariadenia (EÚ) 2024/1689 — AI gramotnosť. Úradný text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.

Zhrnutie úradného textu

Článok 4 nariadenia (EÚ) 2024/1689 stanovuje všeobecnú povinnosť AI gramotnosti pre poskytovateľov a prevádzkovateľov systémov umelej inteligencie pôsobiacich v rámci pôsobnosti nariadenia. Článok vyžaduje, aby poskytovatelia a prevádzkovatelia prijali opatrenia na zabezpečenie toho, aby ich zamestnanci a iné osoby konajúce v ich mene, ktoré sú zapojené do prevádzky a používania systémov umelej inteligencie, v čo najväčšej miere disponovali dostatočným stupňom AI gramotnosti.

Článok definuje AI gramotnosť ako zručnosti, znalosti a porozumenie, ktoré umožňujú osobám prijímať informované rozhodnutia o systémoch umelej inteligencie, správne ich nasadzovať a používať a byť si vedomé vplyvu, ktorý tieto systémy môžu mať. Kľúčovým prvkom je skutočnosť, že povinnosť je kalibrovaná: požadovaná úroveň gramotnosti musí byť úmerná technickým znalostiam, skúsenostiam, vzdelaniu, odbornej príprave a kontextu dotknutých osôb, ako aj systémom umelej inteligencie, s ktorými pracujú.

Článok 4 preto nestanovuje jednotný štandard. Namiesto toho vytvára rámec náležitej starostlivosti, v rámci ktorého musia organizácie posúdiť potreby v oblasti kompetencií príslušných zamestnancov vo vzťahu k dotknutým systémom umelej inteligencie a prijať vhodné nápravné alebo rozvojové opatrenia tam, kde existujú medzery. Toto ustanovenie odráža zámer zákonodarcu — formulovaný v recitáli 20 — že ľudský dohľad nad systémami umelej inteligencie je zmysluplný len vtedy, keď osoby vykonávajúce tento dohľad majú základné porozumenie potrebné na jeho efektívne vykonávanie. Povinnosť má horizontálny rozsah: vzťahuje sa bez ohľadu na kategóriu rizika dotknutého systému umelej inteligencie, čím sa stáva jedným z mála ustanovení v hlave I, ktoré generuje priame, vykonateľné povinnosti pre všetkých aktérov v dosahu nariadenia.

Čo to znamená v praxi

Článok 4 vytvára priebežnú internú povinnosť správy a riadenia. Každá organizácia, ktorá sa kvalifikuje ako poskytovateľ (umiestňujúci systém umelej inteligencie na trh EÚ alebo uvádzajúci ho do prevádzky) alebo prevádzkovateľ (používajúci systém umelej inteligencie vo svojej právomoci v profesionálnom kontexte), musí aktívne posúdiť a riešiť AI gramotnosť príslušných pracovníkov.

V praxi to znamená, že organizácie by mali začať mapovaním toho, ktoré úlohy interagujú so systémami umelej inteligencie — či už pri budovaní, integrácii, prevádzke, dohľade alebo preskúmaní výstupov umelej inteligencie. Právny tím používajúci nástroj na analýzu zmlúv, HR oddelenie nasadzujúce systém na preverovanie životopisov alebo inžiniersky tím udržiavajúci model prediktívnej údržby — všetky tieto prípady patria do rozsahu pôsobnosti. Každý nositeľ úlohy musí mať úroveň AI gramotnosti primeranú jeho zodpovednostiam.

Konkrétne opatrenia na zabezpečenie súladu môžu zahŕňať:

• Vykonanie hodnotenia medzier v zručnostiach v oblasti úloh súvisiacich s umelou inteligenciou
• Navrhovanie alebo získavanie školení špecifických pre konkrétne úlohy (technický personál vyžaduje hlbšie znalosti o správaní modelu, predpojatosti a neistote; podnikoví používatelia potrebujú povedomie o obmedzeniach a eskalačných postupoch)
• Dokumentovanie prijatých opatrení gramotnosti ako súčasť širších záznamov správy a riadenia umelej inteligencie
• Preskúmanie a aktualizáciu programov gramotnosti so zmenou systémov umelej inteligencie alebo zavedením nových systémov

Logistická spoločnosť nasadzujúca model optimalizácie trás by napríklad mala zabezpečiť, aby operátori, ktorí konajú na základe odporúčaní modelu, rozumeli rozsahom spoľahlivosti systému, jeho známym režimom zlyhania a tomu, kedy ho prekonať. Podobne musí poskytovateľ zdravotnej starostlivosti nasadzujúci nástroj na podporu diagnostiky zabezpečiť, aby klinickí pracovníci rozumeli tomu, čo nástroj robí a nerobí, predtým, ako sa spoľahnú na jeho výstupy. Zásada proporcionality znamená, že samostatne pracujúci odborník nasadzujúci jednoduchý nástroj umelej inteligencie bude čeliť ľahším povinnostiam ako nadnárodná spoločnosť nasadzujúca vysoko rizikové systémy vo veľkom meradle.

Kľúčové povinnosti

• Posúdiť potreby AI gramotnosti: Poskytovatelia a prevádzkovatelia musia identifikovať, ktorí zamestnanci a menované osoby interagujú so systémami umelej inteligencie, a vyhodnotiť ich existujúcu úroveň AI gramotnosti voči požiadavkám týchto úloh.
• Prijať vhodné opatrenia gramotnosti: Organizácie musia aktívne implementovať opatrenia — školenie, dokumentáciu, usmernenia alebo štruktúrované zvyšovanie kvalifikácie — úmerné úlohe každej osoby, jej existujúcim kompetenciám a dotknutým systémom.
• Uplatňovať proporcionalitu: Požadovaná úroveň AI gramotnosti nie je jednotná; musí odrážať technickú zložitosť systému umelej inteligencie, mieru autonómie, ktorú vykonáva, a potenciálny vplyv rozhodnutí nositeľa úlohy.
• Zachovávať priebežné pokrytie: Povinnosť je trvalá. So zmenou systémov umelej inteligencie, nasadením nových systémov alebo rotáciou zamestnancov do úloh súvisiacich s umelou inteligenciou musia byť opatrenia gramotnosti preskúmané a aktualizované.
• Rozšíriť povinnosť na tretie strany konajúce v mene organizácie: Článok výslovne pokrýva osoby konajúce v mene poskytovateľov alebo prevádzkovateľov, čo znamená, že zmluvní zamestnanci, poskytovatelia služieb a agenti zapojení do prevádzky systému umelej inteligencie patria do rozsahu pôsobnosti.
• Dokumentovať úsilie: Hoci článok 4 nešpecifikuje požiadavku na dokumentáciu, zosúladenie so širšími očakávaniami nariadenia v oblasti správy a riadenia (najmä pre vysoko rizikové systémy) znamená, že záznamy o hodnoteniach gramotnosti a školiacich aktivitách predstavujú osvedčenú prax a podporujú preukázateľný súlad.

Vzťah k iným článkom

Článok 4 patrí do hlavy I (Všeobecné ustanovenia) a funguje ako horizontálny nástroj umožňujúci konkrétnejšie povinnosti nariadenia. Priamo súvisí s článkom 9 (systém riadenia rizík pre vysoko rizikové systémy umelej inteligencie), ktorý vyžaduje, aby osoby zodpovedné za riadenie rizík umelej inteligencie mali potrebné kompetencie — štandard, ktorý predpokladá základnú AI gramotnosť. Posilňuje článok 14 (ľudský dohľad), kde zmysluplný dohľad fyzických osôb závisí od toho, že tieto osoby rozumejú výstupom systému umelej inteligencie, jeho obmedzeniam a režimom zlyhania.

Článok 4 tiež súvisí s článkom 16 ods. 1 písm. g), ktorý vyžaduje, aby poskytovatelia vysoko rizikových systémov umelej inteligencie prijali kroky na zabezpečenie toho, aby prevádzkovatelia mohli systém primerane interpretovať a používať, a s článkom 26 ods. 2, ktorý zaväzuje prevádzkovateľov prideliť ľudský dohľad osobám s potrebnou kompetenciou. V kontexte modelov umelej inteligencie na všeobecné účely (hlava VIII) článok 4 podkladá očakávanie, že prevádzkovatelia budujúci na výstupoch modelov GPAI rozumejú povahe a obmedzeniam týchto modelov. Čítanie článku 4 spolu s recitálom 20 objasňuje zámer zákonodarcu, že AI gramotnosť je predpokladom efektívneho plnenia všetkých ostatných povinností podľa nariadenia.

Harmonogram súladu

Akt EÚ o umelej inteligencii nadobudol platnosť 1. augusta 2024, dvadsať dní po uverejnení v Úradnom vestníku. Nariadenie sa uplatňuje vo fázach:

• 2. februára 2025 — Zákazy neprijateľných praktík v oblasti rizika umelej inteligencie (článok 5) sa stali uplatniteľnými.
• 2. augusta 2025 — Článok 4 sa stal uplatniteľným spolu s ustanoveniami o modeloch umelej inteligencie na všeobecné účely (hlava VIII) a povinnosťami pre notifikované orgány a orgány dohľadu nad trhom. Organizácie mali mať ku tomuto dátumu zavedené opatrenia AI gramotnosti.
• 2. augusta 2026 — Povinnosti pre vysoko rizikové systémy umelej inteligencie uvedené v prílohe I (systémy bezpečnostných komponentov v regulovaných výrobkoch) sa uplatňujú.
• 2. augusta 2027 — Povinnosti pre vysoko rizikové systémy umelej inteligencie uvedené v prílohe III (samostatné vysoko rizikové systémy) sa uplatňujú v plnom rozsahu vrátane článkov 9–14 a 26, pre ktoré je gramotnosť podľa článku 4 predpokladom.

Organizácie, ktoré ešte nevykonali hodnotenie medzier v gramotnosti ani neimplementovali žiadne školiace opatrenia, sú od augusta 2025 v nesúlade s článkom 4 a mali by nápravu považovať za bezprostrednú prioritu.