Článok 72 — Monitorovanie po uvedení na trh zo strany poskytovateľov a plán monitorovania po uvedení na trh pre systémy umelej inteligencie s vysokým rizikom (Nariadenie EÚ o AI)

Článok 72 nariadenia (EÚ) 2024/1689 — Monitorovanie po uvedení na trh zo strany poskytovateľov a plán monitorovania po uvedení na trh pre systémy umelej inteligencie s vysokým rizikom. Oficiálny text, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.

Zhrnutie Oficiálneho Textu

Článok 72 nariadenia (EÚ) 2024/1689 stanovuje povinnosť monitorovania po uvedení na trh pre poskytovateľov systémov umelej inteligencie s vysokým rizikom. Poskytovatelia sú povinní proaktívne zbierať, dokumentovať a analyzovať relevantné údaje o výkonnosti svojich systémov umelej inteligencie s vysokým rizikom počas celej prevádzkovej životnosti týchto systémov po ich uvedení na trh alebo do prevádzky.

Článok ukladá poskytovateľom povinnosť vypracovať a implementovať plán monitorovania po uvedení na trh, ktorý musí byť primeraný povahe technológie umelej inteligencie s vysokým rizikom a súvisiacim rizikám. Tento plán musí byť súčasťou technickej dokumentácie vypracovanej podľa článku 11 a stanovenej v súlade s prílohou IV. Musí vymedziť metódy a postupy systematického zberu údajov o výkonnosti vrátane údajov získaných od prevádzkovateľov, kde je to relevantné.

Ak monitorovanie odhalí, že systém umelej inteligencie s vysokým rizikom už nespĺňa požiadavky stanovené v kapitole III, oddiel 2, poskytovateľ musí bez zbytočného odkladu prijať primerané nápravné opatrenia. To zahŕňa aktualizáciu systému, jeho stiahnutie z trhu alebo jeho odvolanie, kde je to potrebné.

Článok 72 taktiež uznáva úlohu prevádzkovateľov: poskytovatelia musia inštruovať prevádzkovateľov, aby poskytli relevantné prevádzkové údaje, ktoré nemožno zbierať priamo. Povinnosť monitorovania je priebežná a nie jednorazová, čo odráža dynamickú povahu výkonnosti systémov umelej inteligencie a vyvíjajúce sa kontexty, v ktorých sú tieto systémy nasadené.

Čo To Znamená v Praxi

Pre organizácie, ktoré vyvíjajú alebo dodávajú systémy umelej inteligencie s vysokým rizikom, článok 72 zavádza štruktúrovanú, priebežnú povinnosť súladu, ktorá siaha ďaleko za moment uvedenia na trh. Poskytovatelia nemôžu posudzovanie zhody považovať za jednorazové cvičenie. Namiesto toho musia navrhnúť a operacionalizovať infraštruktúru monitorovania pred spustením ich systému.

V praktickej rovine to znamená vopred definovať, aké údaje budú zbierané z nasadených inštancií systému, ako sa tieto údaje budú analyzovať a aké výkonnostné prahové hodnoty spustia preskúmanie alebo nápravné opatrenie. Napríklad poskytovateľ diagnostického nástroja zdravotníckeho zariadenia s asistenciou umelej inteligencie musí špecifikovať, ktoré ukazovatele — ako miery falošnej negativity, demografické rozdiely vo výkonnosti alebo metriky posunu modelu — sa budú sledovať, s akou frekvenciou a kým.

Poskytovatelia systémov umelej inteligencie zabudovaných do produktov tretích strán čelia ďalšej výzve: závisia od prevádzkovateľov v prenose prevádzkových údajov, ku ktorým nemá poskytovateľ priamy prístup. To si vyžaduje zmluvné dojednania s prevádzkovateľmi, ktoré jasne vymedzujú povinnosti zdieľania údajov, ako to predpokladá kombinované čítanie článku 72 a článku 25.

Organizácie s existujúcimi systémami manažérstva kvality (SMK) — ako napríklad tie, ktoré už spĺňajú normu ISO 13485 v zdravotníckych pomôckach alebo ISO 9001 vo všeobecnosti — nájdu prirodzené zosúladenie s požiadavkami článku 72. Plán monitorovania po uvedení na trh by mal byť integrovaný do širšieho SMK zdokumentovaného podľa článku 17, a nie považovaný za samostatný dokument.

Menší poskytovatelia a startupy budú musieť túto funkciu primerane obsadiť: článok 72 neposkytuje výnimku de minimis na základe veľkosti spoločnosti, hoci proporcionalita plánu k rizikovej úrovni systému je výslovne uznaná.

Kľúčové Povinnosti

• Vypracovanie plánu monitorovania po uvedení na trh, ktorý je primeraný rizikovej úrovni a povahe systému umelej inteligencie s vysokým rizikom, zdokumentovaného ako súčasť technickej dokumentácie podľa článku 11 a prílohy IV.
• Aktívny zber a analýza údajov po uvedení na trh o výkonnosti systému počas celého prevádzkového cyklu vrátane údajov od prevádzkovateľov, ak priamy zber nie je možný.
• Vymedzenie ukazovateľov výkonnosti a prahových hodnôt nápravných opatrení vopred, pričom sa špecifikuje, aká úroveň degradácie alebo nesúladu spúšťa formálne preskúmanie alebo nápravné opatrenie.
• Prijatie nápravných opatrení bez zbytočného odkladu, keď monitorovanie odhalí, že systém už nespĺňa požiadavky s vysokým rizikom kapitoly III, oddiel 2, čo môže zahŕňať aktualizáciu, odvolanie alebo stiahnutie systému.
• Integrácia výsledkov monitorovania do systému manažérstva kvality zriadeného podľa článku 17, pričom sa zabezpečí, že zistenia sú spätne prepojené do procesu zlepšovania produktu, aktualizácií dokumentácie a procesov opätovného posudzovania.
• Inštruovanie prevádzkovateľov, aby poskytli prevádzkovo relevantné údaje a spolupracovali pri procese monitorovania po uvedení na trh, podporovaných primeranými zmluvnými alebo technickými dojednaniami.

Vzťah k Iným Článkom

Článok 72 stojí v centre skupiny vzájomne súvisiacich povinností. Priamo napája článok 73, ktorý upravuje hlásenie závažných incidentov a porúch vnútroštátnym príslušným orgánom: monitorovací systém zriadený podľa článku 72 je mechanizmom detekcie udalostí, ktoré článok 73 vyžaduje nahlásiť.

Článok 17 (systémy manažérstva kvality) poskytuje organizačný rámec, do ktorého musí byť plán monitorovania po uvedení na trh zabudovaný. Článok 11 a príloha IV vymedzujú požiadavky na technickú dokumentáciu, ktorej súčasťou musí byť plán monitorovania.

Článok 25 prideľuje zodpovednosti medzi poskytovateľov a prevádzkovateľov a je nevyhnutný pre pochopenie toho, ako môžu poskytovatelia získavať prevádzkové údaje od používateľov ďalej v dodávateľskom reťazci. Článok 26 to dopĺňa podrobným uvedením povinností prevádzkovateľov vrátane povinnosti monitorovať používanie systému a hlásiť anomálie poskytovateľovi.

Pre systémy umelej inteligencie s vysokým rizikom, ktoré sú bezpečnostnými komponentmi výrobkov krytých harmonizačnými právnymi predpismi Únie uvedenými v prílohe I, sa článok 72 musí čítať spolu s povinnosťami dohľadu po uvedení na trh v príslušnom sektorovom nariadení, ako je nariadenie o zdravotníckych pomôckach (EÚ) 2017/745 alebo nariadenie o strojových zariadeniach (EÚ) 2023/1230, čím sa zabezpečí koherentný a neduplicitný súlad.

Harmonogram Súladu

Nariadenie EÚ o AI nadobudlo účinnosť 1. augusta 2024 po jeho uverejnení v Úradnom vestníku Európskej únie. Nariadenie sa uplatňuje postupne v rôznych kategóriách povinností.

Článok 72, ako súčasť hlavy IX upravujúcej monitorovanie po uvedení na trh a trhový dohľad, sa vzťahuje na poskytovateľov systémov umelej inteligencie s vysokým rizikom uvedených v prílohe III (všeobecné kategórie s vysokým rizikom ako biometria, zamestnanosť, vzdelávanie a prístup k základným službám) od 2. augusta 2027. Systémy umelej inteligencie s vysokým rizikom uvedené v prílohe I — ktoré sú bezpečnostnými komponentmi výrobkov už regulovaných v rámci existujúcich harmonizačných právnych predpisov Únie — taktiež podliehajú plným povinnostiam vrátane článku 72 od 2. augusta 2027 vo väčšine prípadov, v súlade so všeobecným dátumom uplatňovania pre vysoké riziko.

Poskytovatelia by mali poznamenať, že skoršie termíny — február 2025 pre zakázané praktiky umelej inteligencie a august 2025 pre povinnosti týkajúce sa modelov umelej inteligencie všeobecného určenia — priamo neupravujú článok 72, avšak základy pre infraštruktúru monitorovania by mali byť položené dlho pred termínom 2027. Organizáciám, ktoré dnes vyvíjajú systémy umelej inteligencie s vysokým rizikom, sa odporúča začať navrhovať plány monitorovania po uvedení na trh ako súčasť procesu prípravy na posúdenie zhody, a nie ich retrospektívne prispôsobovať v okamihu uplatňovania.