Článok 16 — Povinnosti poskytovateľov vysoko rizikových systémov umelej inteligencie (zákon EÚ o umelej inteligencii)

Článok 16 nariadenia (EÚ) 2024/1689 — Povinnosti poskytovateľov vysoko rizikových systémov umelej inteligencie. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad.

Zhrnutie oficiálneho textu

Článok 16 nariadenia (EÚ) 2024/1689 (zákon EÚ o umelej inteligencii) stanovuje komplexný súbor povinností, ktoré musia poskytovatelia systémov umelej inteligencie s vysokým rizikom splniť pred uvedením svojich systémov na trh alebo do prevádzky. Článok funguje ako centrálny kotvový bod pre zodpovednosti poskytovateľov v rámci hlavy III, kapitoly 3.

Podľa článku 16 musia poskytovatelia zabezpečiť, že ich systémy umelej inteligencie s vysokým rizikom spĺňajú všetky požiadavky stanovené v kapitole 2 hlavy III, ktoré sa týkajú riadenia rizík (článok 9), údajov a správy údajov (článok 10), technickej dokumentácie (článok 11), vedenia záznamov (článok 12), transparentnosti a poskytovania informácií (článok 13), ľudského dohľadu (článok 14) a presnosti, robustnosti a kybernetickej bezpečnosti (článok 15).

Okrem súladu s kapitolou 2 ukladá článok 16 konkrétne administratívne a procedurálne povinnosti. Poskytovatelia musia zriadiť systém manažérstva kvality v súlade s článkom 17, vypracovať technickú dokumentáciu podľa prílohy IV a prípadne absolvovať postup posudzovania zhody pred umiestnením označenia CE. Musia zaregistrovať svoje systémy v databáze EÚ zriadenej podľa článku 71, keď je registrácia povinná, spolupracovať s vnútroštátnymi príslušnými orgánmi na požiadanie a uchovávať všetku relevantnú dokumentáciu po dobu desiatich rokov od uvedenia systému na trh alebo do prevádzky. Poskytovatelia so sídlom mimo EÚ musia určiť splnomocneného zástupcu v Únii podľa článku 22.

Čo to znamená v praxi

Pre organizácie vyvíjajúce alebo objednávajúce systémy umelej inteligencie s vysokým rizikom sa článok 16 pretavuje do štruktúrovaného programu súladu pred uvedením na trh, ktorý musí byť dokončený pred akýmkoľvek nasadením alebo komerčným uvedením.

Vývojári a predajcovia budujúci systémy umelej inteligencie, ktoré patria do kategórií s vysokým rizikom vymedzených v prílohe III — zahŕňajúcich oblasti ako biometrická identifikácia, kritická infraštruktúra, vzdelávanie, zamestnanosť, základné služby, presadzovanie práva, migrácia a správa súdnictva — musia považovať článok 16 za svoju primárnu kontrolnú listinu súladu. Pred spustením musia mať zavedený zdokumentovaný systém manažérstva kvality, dokončené posudzovanie zhody (vlastné alebo treťou stranou, v závislosti od kategórie), umiestnené označenie CE a zaregistrovaný produkt v databáze zákona EÚ o umelej inteligencii.

Konkrétny príklad: softvérová spoločnosť ponúkajúca nástroj na skríning životopisov s podporou umelej inteligencie pre HR oddelenia patrí pod prílohu III, bod 4 (zamestnanosť a riadenie pracovníkov). Pred uvedením tohto nástroja na trh musí spoločnosť zdokumentovať svoj proces riadenia rizík, preukázať kvalitu svojich tréningových údajov, poskytnúť technickú dokumentáciu umožňujúcu regulačným orgánom posúdiť súlad, implementovať mechanizmy ľudského dohľadu a zaregistrovať systém. Ak má spoločnosť sídlo mimo EÚ, musí určiť splnomocneného zástupcu so sídlom v EÚ.

Priebežné povinnosti pretrvávajú aj po nasadení. Poskytovatelia musia viesť záznamy, monitorovať výkonnosť po uvedení na trh podľa článku 72, oznamovať závažné incidenty podľa článku 73 a aktualizovať technickú dokumentáciu, keď systém prechádza podstatnými zmenami. Súlad nie je jednorazovou udalosťou, ale trvalou prevádzkovou zodpovednosťou.

Poskytovatelia pôsobiaci v regulovaných sektoroch výrobkov — ako sú zdravotnícke pomôcky alebo strojové zariadenia — musia navyše splniť sektorovo špecifické požiadavky zhody, ktoré spolupôsobia so zákonom o umelej inteligencii podľa prílohy I.

Kľúčové povinnosti

• Zabezpečenie súladu s kapitolou 2: Overenie, že systém umelej inteligencie s vysokým rizikom spĺňa všetky technické a riadiace požiadavky (články 8–15) pred uvedením na trh, vrátane riadenia rizík, správy údajov, transparentnosti, ľudského dohľadu a robustnosti.
• Zriadenie systému manažérstva kvality: Zavedenie zdokumentovaného SMK podľa článku 17, zahŕňajúceho politiky, postupy, posudzovanie zhody, monitorovanie po uvedení na trh a pracovné toky hlásenia incidentov.
• Vypracovanie a udržiavanie technickej dokumentácie: Príprava a aktualizácia technickej dokumentácie uvedenej v prílohe IV, sprístupňujúc ju vnútroštátnym príslušným orgánom a notifikovaným subjektom na požiadanie.
• Absolvovanie posudzovania zhody a umiestnenie označenia CE: Dokončenie príslušného postupu posudzovania zhody (vlastného alebo treťou stranou) a umiestnenie označenia CE pred uvedením systému na trh alebo do prevádzky v EÚ.
• Registrácia v databáze EÚ: Zápis systému do databázy EÚ pre systémy umelej inteligencie s vysokým rizikom zriadenej podľa článku 71, keď je registrácia povinná pre príslušnú kategóriu.
• Uchovávanie záznamov desať rokov a spolupráca s orgánmi: Uchovávanie všetkej technickej dokumentácie, vyhlásení o zhode a príslušných protokolov najmenej desať rokov; odpovede na žiadosti o informácie od vnútroštátnych dozorných orgánov a orgánov dohľadu nad trhom; určenie splnomocneného zástupcu EÚ, ak poskytovateľ nie je usadený v Únii.

Vzťah k iným článkom

Článok 16 nemožno čítať v izolácii. Je to povinnosť-brána, ktorá aktivuje a odkazuje na prakticky všetky ostatné požiadavky smerované na poskytovateľov v hlave III.

Vecné technické požiadavky, ktorých splnenie článok 16 od poskytovateľov vyžaduje, sa nachádzajú v článkoch 8 až 15 (kapitola 2). Systém manažérstva kvality, ktorý článok 16 nariaďuje, je rozpracovaný v článku 17. Špecifikácie technickej dokumentácie sú uvedené v prílohe IV, na ktorú odkazuje článok 11. Postupy posudzovania zhody spustené článkom 16 sú podrobne opísané v článku 43, s pravidlami vyhlásenia o zhode v článku 47 a pravidlami označenia CE v článku 48.

Povinnosti dohľadu po uvedení na trh, ktoré rozširujú pôsobnosť článku 16 za rámec počiatočného uvedenia, sú stanovené v článku 72, s hlásením závažných incidentov v článku 73. Splnomocnení zástupcovia — vyžadovaní pre poskytovateľov mimo EÚ podľa článku 16 — sa riadia článkom 22. Okolnosti, za ktorých dovozcovia a distribútori preberajú povinnosti poskytovateľa, sú uvedené v článku 24. Nakoniec požiadavka na registráciu v databáze EÚ súvisí s článkom 71. Vnútroštátne príslušné orgány presadzujúce povinnosti podľa článku 16 pôsobia v rámci stanoveného v článkoch 70 a 74.

Harmonogram súladu

Zákon EÚ o umelej inteligencii nadobudol účinnosť 1. augusta 2024, dvadsať dní po uverejnení v Úradnom vestníku. Jeho ustanovenia sa však uplatňujú postupne:

• 2. februára 2025: Zákazy týkajúce sa praktík umelej inteligencie s neprijateľným rizikom (článok 5) sa stali vymáhateľnými.
• 2. augusta 2025: Povinnosti týkajúce sa modelov umelej inteligencie na všeobecné účely (hlava VIII, články 51–56) sa stali uplatniteľnými.
• 2. augusta 2026: Povinnosti podľa článku 16 sa stávajú vymáhateľnými pre systémy umelej inteligencie s vysokým rizikom uvedené v prílohe III (samostatné systémy umelej inteligencie v oblastiach ako zamestnanosť, vzdelávanie, základné služby, biometria a presadzovanie práva).
• 2. augusta 2027: Povinnosti podľa článku 16 sa stávajú vymáhateľnými pre systémy umelej inteligencie s vysokým rizikom, na ktoré sa vzťahuje príloha I (bezpečnostné komponenty výrobkov, ktoré sú už regulované existujúcimi sektorovými právnymi predpismi EÚ, ako sú zdravotnícke pomôcky, strojové zariadenia a civilné letectvo).

Poskytovatelia by nemali čakať na tieto dátumy presadzovania a mali by začať s prípravou. Budovanie systému manažérstva kvality, zostavovanie technickej dokumentácie a dokončovanie posudzovania zhody sú procesy náročné na zdroje. Organizáciám uvádzajúcim na trh systémy z prílohy III sa odporúča, aby boli prevádzkovo v súlade najneskôr do polovice roka 2026, pričom analýzy nedostatkov a nápravné programy by mali byť zahájené najneskôr začiatkom roka 2025.