Článok 60 Nariadenia (EÚ) 2024/1689 — Testovanie systémov umelej inteligencie s vysokým rizikom v reálnych podmienkach mimo regulačných pieskovísk pre umelú inteligenciu. Oficiálne znenie, praktická interpretácia, kľúčové povinnosti a dôsledky pre súlad s predpismi.
Zhrnutie oficiálneho znenia
Článok 60 Nariadenia (EÚ) 2024/1689 stanovuje podmienky, za ktorých poskytovatelia a potenciálni poskytovatelia systémov umelej inteligencie s vysokým rizikom môžu vykonávať testovanie v reálnych podmienkach mimo štruktúrovaného rámca regulačných pieskovísk pre umelú inteligenciu zriadených podľa Článkov 57 až 59. Toto ustanovenie uznáva, že zmysluplné hodnotenie systémov umelej inteligencie s vysokým rizikom si často vyžaduje vystavenie skutočným prevádzkovým prostrediam, pričom sa zachovávajú záruky primerané príslušným rizikám.
Článok vyžaduje, aby testovanie mimo pieskovísk prebiehalo iba v prípade splnenia súboru kumulatívnych podmienok. Poskytovateľ alebo potenciálny poskytovateľ musí predložiť notifikáciu príslušnému národnému orgánu najmenej 30 dní pred začiatkom testovania. Notifikácia musí obsahovať plán testovania popisujúci rozsah, trvanie, geografickú oblasť, kategórie zapojených osôb a zavedené opatrenia na zníženie rizika.
Informovaný súhlas subjektov je ústrednou požiadavkou. Ak systém umelej inteligencie interaguje s identifikovateľnými fyzickými osobami alebo prijíma rozhodnutia, ktoré ich ovplyvňujú, tieto osoby musia byť informované o svojej účasti a musia výslovne súhlasiť, pokiaľ príslušné sektorové právo nestanoví inak. Testovanie nesmie presahovať to, čo je nevyhnutne potrebné na dosiahnutie uvedených cieľov, a nesmie vystavovať subjekty neprijateľnému riziku alebo škode.
Článok ďalej vyžaduje, aby testovanie prebiehalo pod dohľadom poskytovateľa, aby výsledky boli zaznamenané a aby závažné incidenty pri testovaní boli hlásené príslušnému orgánu. Členské štáty si zachovávajú možnosť autorizovať alebo odmietnuť testovacie činnosti na svojom území a môžu ukladať dodatočné podmienky.
Čo to v praxi znamená
Článok 60 je primárne relevantný pre organizácie vyvíjajúce alebo nasadzujúce systémy umelej inteligencie s vysokým rizikom — definované podľa Článku 6 a Prílohy III Nariadenia — ktoré potrebujú overovať výkonnosť systému alebo bezpečnostné vlastnosti v skutočných prevádzkových prostrediach pred formálnym posúdením zhody alebo súbežne s ním. Zahŕňa to napríklad nemocnicu testujúcu diagnostický nástroj s podporou umelej inteligencie v živom klinickom prostredí, alebo finančnú inštitúciu testujúcu model solventnosti so skutočnými žiadateľmi mimo kontrolovaného pieskoviska.
V praxi súlad s predpismi znamená zavedenie interného procesu riadenia testov v reálnych podmienkach, ktorý odráža povinnosti podľa článku. Pred začatím akéhokoľvek testu musí organizácia pripraviť štruktúrovaný plán testovania, overiť, že sú zavedené všetky mechanizmy súhlasu, a predložiť požadovanú notifikáciu príslušnému orgánu najmenej 30 dní vopred — pričom ponechá dostatočný čas, aby orgán mohol vzniesť námietky alebo uložiť podmienky.
Počas testu musí organizácia udržiavať aktívny ľudský dohľad, dokumentovať všetky závažné incidenty a byť pripravená okamžite pozastaviť testovanie, ak riziká prekročia predpokladané úrovne. Údaje zozbierané počas testovania naďalej podliehajú príslušným povinnostiam GDPR a spracovanie osobitných kategórií údajov vyžaduje konkrétny právny základ.
Organizácie by mali tiež zabezpečiť, aby ich zmluvy s prevádzkovateľmi alebo externými prevádzkovateľmi testov jasne rozdeľovali zodpovednosť za dodržiavanie podmienok Článku 60, keďže povinnosť spočíva primárne na poskytovateľovi alebo potenciálnom poskytovateľovi, bez ohľadu na to, kto test fyzicky vykonáva. Dôrazne sa odporúčajú vnútorné rámce riadenia — vrátane určenej zodpovednej osoby a zdokumentovaného registra rizík pre test.
Kľúčové povinnosti
- Predbežná notifikácia: Predloženie plánu testovania príslušnému národnému kompetentnému orgánu najmenej 30 dní pred začatím testovania v reálnych podmienkach, zahŕňajúceho rozsah, trvanie, miesto, kategórie subjektov a opatrenia na zníženie rizika.
- Informovaný súhlas: Získanie výslovného informovaného súhlasu od všetkých fyzických osôb zapojených alebo postihnutých testovaním a informovanie ich o bezpodmienečnom práve na stiahnutie súhlasu kedykoľvek bez ujmy.
- Proporcionalita rizika: Zabezpečenie, že testovacie činnosti nepresahujú to, čo je nevyhnutne potrebné pre uvedený cieľ, a nevystavujú subjekty ani tretie strany rizikám, ktoré prevažujú nad očakávanými prínosmi.
- Dohľad a dokumentácia: Udržiavanie aktívneho dohľadu nad testom, vedenie záznamov plánu testovania, výsledkov a akýchkoľvek odchýlok alebo incidentov vyskytnutých počas obdobia testovania.
- Hlásenie incidentov: Hlásenie bez zbytočného odkladu akéhokoľvek závažného incidentu, ku ktorému došlo počas testovania v reálnych podmienkach, príslušnému orgánu a okamžité prijatie nápravných opatrení na zníženie škody.
- Registrácia v databáze EÚ: Registrácia testovacej činnosti v reálnych podmienkach v databáze EÚ pre systémy umelej inteligencie s vysokým rizikom zriadenej podľa Článku 71 pred začatím testovania.
Vzťah k iným článkom
Článok 60 je súčasťou Hlavy VI (Opatrenia na podporu inovácií) a mal by byť čítaný spolu s Článkami 57 až 59, ktoré zakladajú hlavný rámec regulačných pieskovísk pre umelú inteligenciu. Článok 60 funguje ako doplňujúca cesta pre testovanie, ktoré sa neuskutočňuje v rámci formálneho pieskoviska, ale nenahrádzá ani nezni žuje vecné povinnosti bezpečnosti a transparentnosti vzťahujúce sa na systémy umelej inteligencie s vysokým rizikom podľa Hlavy III (najmä Články 8 až 15 o povinnostiach poskytovateľov, riadení rizík a technickej dokumentácii).
Požiadavky na súhlas a ochranu údajov z Článku 60 priamo pretínajú Nariadenie (EÚ) 2016/679 (GDPR), najmä Články 6, 9 a 22 o zákonnom spracovaní a automatizovanom rozhodovaní. Článok 60 sa taktiež spája s Článkom 71 o databáze EÚ, ktorý upravuje registračné povinnosti, a s Článkom 73 o dohľade nad trhom, keďže príslušné orgány môžu kontrolovať testy v reálnych podmienkach. Poskytovatelia by mali navyše zvážiť Článok 26 o povinnostiach prevádzkovateľov, keďže testovanie v reálnych podmienkach často zahŕňa infraštruktúru a údaje na strane prevádzkovateľa.
Časový plán súladu s predpismi
Nariadenie EÚ o UI nadobudlo účinnosť 1. augusta 2024, dvadsať dní po jeho uverejnení v Úradnom vestníku Európskej únie. Jeho ustanovenia sa uplatňujú postupne:
- 2. februára 2025 — Zákazy praktík umelej inteligencie s neprijateľným rizikom (Článok 5) sa stali uplatniteľnými.
- 2. augusta 2025 — Ustanovenia o modeloch umelej inteligencie na všeobecné účely (Hlava III, Kapitola 3, Články 51 až 56) a povinnosti v oblasti riadenia (Hlava VI a VIII čiastočne) sa stali uplatniteľnými. Rámec regulačného pieskoviska podľa Článkov 57 až 59 sa taktiež stal uplatniteľným od tohto dátumu.
- 2. augusta 2026 — Všeobecný dátum uplatňovania väčšiny zostávajúcich ustanovení vrátane Článku 60. Od tohto dátumu musia poskytovatelia a potenciálni poskytovatelia systémov umelej inteligencie s vysokým rizikom, ktorí chcú vykonávať testovanie v reálnych podmienkach mimo pieskovísk, plne spĺňať povinnosti notifikácie, súhlasu, dokumentácie a hlásenia incidentov stanovené týmto článkom.
- 2. augusta 2027 — Predĺžený termín pre systémy umelej inteligencie s vysokým rizikom patriace pod Prílohu III, bod 2 (systémy umelej inteligencie v existujúcich produktoch, ktoré už podliehajú harmonizačnej legislatíve Únie uvedenej v Prílohe I), čo dáva dotknutým odvetviam dodatočný čas na zosúladenie s požiadavkami posúdenia zhody a prevádzkovými požiadavkami.
Organizácie plánujúce programy testovania v reálnych podmienkach by mali začať navrhovať vyhovujúce rámce riadenia testovania a notifikačné postupy s dostatočným predstihom pred dátumom 2. augusta 2026, aby sa predišlo oneskoreniam, keď sa povinnosť stane vymáhateľnou.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Poskytovatelia a potenciálni poskytovatelia systémov umelej inteligencie s vysokým rizikom môžu vykonávať testovanie v reálnych podmienkach mimo pieskovísk za predpokladu, že notifikujú príslušný národný kompetentný orgán najmenej 30 dní pred začiatkom testovania a splnia podmienky stanovené v Článku 60, vrátane získania informovaného súhlasu subjektov a zavedenia primeraných opatrení na zníženie rizika.
Nie. Článok 60 ustanovuje odlišnú cestu pre testovanie v reálnych podmienkach, ktoré sa odohráva mimo formálnych regulačných pieskovísk pre umelú inteligenciu spravovaných Článkami 57 až 59. Poskytuje menej prísny mechanizmus, ale stále ukladá povinné záruky, požiadavky na notifikáciu a podmienky na ochranu subjektov zapojených do testovania.
Subjekty zapojené do testovania v reálnych podmienkach musia dať výslovný informovaný súhlas, pokiaľ príslušné sektorové právo nestanoví inak. Musia byť informované o práve na stiahnutie súhlasu bez ujmy, chránené pred akýmikoľvek neopodstatnenými negatívnymi účinkami, a poskytovateľ musí zabezpečiť, aby bola riešená akákoľvek škoda vyplývajúca z testovania. Špeciálna ochrana sa vzťahuje na zraniteľné skupiny.
Článok 60 patrí pod Hlavu VI a uplatňuje sa od 2. augusta 2026, čo je všeobecný dátum uplatňovania väčšiny ustanovení Nariadenia EÚ o UI. Systémy umelej inteligencie s vysokým rizikom uvedené v Prílohe III čelia stupňovaným povinnostiam, pričom niektoré kategórie podliehajú predĺženému termínu 2. augusta 2027.
Nie nevyhnutne vo fáze testovania, ale testovanie musí byť vykonávané za podmienok, ktoré sú v súlade s zamýšľaným použitím a požiadavkami na riadenie rizík podľa Nariadenia o UI. Poskytovatelia musia zaregistrovať plánované testovanie v databáze EÚ a zabezpečiť, aby plán testovania, záruky a mechanizmy dohľadu spĺňali podmienky uvedené v Článku 60 ods. 4.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.