Člen 60 Uredbe (EU) 2024/1689 — Testiranje visoko tveganih sistemov UI v resničnih razmerah zunaj regulativnih peskovnikov za UI. Uradni besedilo, praktična razlaga, ključne obveznosti in posledice za skladnost.
Povzetek uradnega besedila
Člen 60 Uredbe (EU) 2024/1689 določa pogoje, pod katerimi ponudniki in potencialni ponudniki visoko tveganih sistemov UI lahko izvajajo testiranje v resničnih razmerah zunaj strukturiranega okvira regulativnih peskovnikov za UI, vzpostavljenih v skladu s Členi 57–59. Ta določba prizna va, da smiselna ocena visoko tveganih sistemov UI pogosto zahteva izpostavljenost pristnim operativnim okoljem, hkrati pa ohranja zaščitne ukrepe, sorazmerne z zadevnimi tveganji.
Člen zahteva, da testiranje zunaj peskovnikov poteka samo takrat, ko je izpolnjen niz kumulativnih pogojev. Ponudnik ali potencialni ponudnik mora pristojnemu nacionalnemu organu vsaj 30 dni pred začetkom testiranja predložiti uradni obvestilo. Obvestilo mora vsebovati načrt testiranja, ki opisuje obseg, trajanje, geografsko območje, kategorije vključenih oseb in vzpostavljene ukrepe za zmanjšanje tveganja.
Informirano soglasje udeležencev je osrednja zahteva. Kadar sistem UI komunicira z določljivimi fizičnimi osebami ali sprejema odločitve, ki jih zadevajo, morajo biti te osebe obveščene o svojem sodelovanju in morajo izrecno soglašati, razen kadar veljavno sektorsko pravo določa drugače. Testiranje ne sme presegati tega, kar je nujno potrebno za doseganje navedenih ciljev, in ne sme izpostavljati udeležencev nesprejemljivemu tveganju ali škodi.
Člen nadalje zahteva, da testiranje poteka pod nadzorom ponudnika, da se beležijo rezultati in da se pristojnemu organu poroča o resnih incidentih, ki se pojavijo med testiranjem. Države članice ohranijo možnost odobritve ali zavrnitve testnih dejavnosti na svojem ozemlju in lahko naložijo dodatne pogoje.
Kaj to pomeni v praksi
Člen 60 je primarno relevanten za organizacije, ki razvijajo ali uvajajo visoko tvegane sisteme UI — opredeljene v skladu s Členom 6 in Prilogo III Uredbe — ki morajo potrditi delovanje sistema ali varnostne lastnosti v pristnih operativnih okoljih pred formalno oceno skladnosti ali vzporedno z njo. To vključuje na primer bolnišnico, ki preizkuša diagnostično orodje s pomočjo UI v živem kliničnem okolju, ali finančno institucijo, ki testira model kreditne sposobnosti z dejanskimi vlagatelji zunaj nadzorovanega peskovnika.
V praksi skladnost pomeni vzpostavitev notranjega procesa za upravljanje testiranja v resničnih razmerah, ki odraža obveznosti iz člena. Pred začetkom kateregakoli testa mora organizacija pripraviti strukturiran načrt testiranja, preveriti, da so vzpostavljeni vsi mehanizmi soglasja, in pri pristojnem organu vložiti zahtevano obvestilo vsaj 30 dni vnaprej — pri čemer pusti dovolj časa, da organ ugovarja ali naloži pogoje.
Med testom mora organizacija vzdrževati aktivni človeški nadzor, dokumentirati vse bistvene incidente in biti pripravljena takoj prekiniti testiranje, če tveganja presežejo pričakovane ravni. Podatki, zbrani med testiranjem, ostajajo predmet veljavnih obveznosti GDPR, obdelava posebnih kategorij podatkov pa zahteva posebno pravno podlago.
Organizacije morajo prav tako zagotoviti, da njihove pogodbe z operaterji ali zunanjimi testnimi operaterji jasno dodelijo odgovornost za spoštovanje pogojev Člena 60, saj obveznost spada primarno na ponudnika ali potencialnega ponudnika, ne glede na to, kdo fizično izvaja test. Priporoča se vzpostavitev notranjih okvirov upravljanja — vključno z določeno odgovorno osebo in dokumentiranim registrom tveganj za test.
Ključne obveznosti
- Predhodno uradno obvestilo: Predložitev načrta testiranja ustreznemu nacionalnemu pristojnemu organu vsaj 30 dni pred začetkom testiranja v resničnih razmerah, ki zajema obseg, trajanje, lokacijo, kategorije udeležencev in ukrepe za zmanjšanje tveganja.
- Informirano soglasje: Pridobitev izrecnega informiranega soglasja vseh fizičnih oseb, ki so vključene ali prizadete pri testiranju, ter obveščanje o njihovi brezpogojni pravici do umika kadar koli brez škode.
- Sorazmernost tveganja: Zagotovitev, da testne dejavnosti ne presegajo tistega, kar je nujno potrebno za navedeni cilj, in ne izpostavljajo udeležencev ali tretjih oseb tveganjem, ki so nesorazmerna s pričakovanimi koristmi.
- Nadzor in dokumentacija: Vzdrževanje aktivnega nadzora nad testom, vodenje evidence načrta testiranja, rezultatov in kakršnih koli odstopanj ali incidentov, nastalih v obdobju testiranja.
- Poročanje o incidentih: Poročanje brez nepotrebnega odlašanja o vsakem resnem incidentu, ki se pojavi med testiranjem v resničnih razmerah, pristojnemu organu in takojšnje ukrepanje za ublažitev škode.
- Registracija v zbirki podatkov EU: Registracija testne dejavnosti v resničnih razmerah v zbirki podatkov EU za visoko tvegane sisteme UI, vzpostavljeni v skladu s Členom 71, pred začetkom testiranja.
Razmerje do drugih členov
Člen 60 je del Naslova VI (Ukrepi za podporo inovacijam) in ga je treba brati skupaj s Členi 57–59, ki vzpostavljajo primarni okvir za regulativne peskovnike za UI. Člen 60 deluje kot dopolnilna pot za testiranje, ki ne poteka v formalnem peskovniku, a ne nadomešča niti ne zmanjšuje vsebinskih varnostnih in transparentnostnih obveznosti, ki veljajo za visoko tvegane sisteme UI v skladu z Naslovom III (zlasti Členi 8–15 o obveznostih ponudnikov, upravljanju tveganj in tehnični dokumentaciji).
Zahteve glede soglasja in varstva podatkov iz Člena 60 se neposredno prepletajo z Uredbo (EU) 2016/679 (GDPR), zlasti s Členi 6, 9 in 22 o zakoniti obdelavi in avtomatiziranem odločanju. Člen 60 se prav tako navezuje na Člen 71 o zbirki podatkov EU, ki ureja obveznosti registracije, ter na Člen 73 o nadzoru trga, saj pristojni organi lahko pregledujejo teste v resničnih razmerah. Ponudniki morajo poleg tega upoštevati Člen 26 o obveznostih operaterjev, saj testiranje v resničnih razmerah pogosto vključuje infrastrukturo in podatke na strani operaterja.
Časovni okvir za skladnost
Uredba EU o UI je začela veljati 1. avgusta 2024, dvajset dni po objavi v Uradnem listu Evropske unije. Njene določbe se uveljavljajo postopoma:
- 2. februarja 2025 — Prepovedi praks UI z nesprejemljivim tveganjem (Člen 5) so začele veljati.
- 2. avgusta 2025 — Določbe o modelih UI za splošne namene (Naslov III, Poglavje 3, Členi 51–56) in obveznosti upravljanja (Naslov VI in VIII delno) so začele veljati. Okvir regulativnih peskovnikov v skladu s Členi 57–59 je prav tako začel veljati od tega datuma.
- 2. avgusta 2026 — Splošni datum uporabe za večino preostalih določb, vključno s Členom 60. Od tega datuma morajo ponudniki in potencialni ponudniki visoko tveganih sistemov UI, ki želijo izvajati testiranje v resničnih razmerah zunaj peskovnikov, v celoti izpolnjevati obveznosti glede obvestil, soglasja, dokumentacije in poročanja o incidentih, vzpostavljene s tem členom.
- 2. avgusta 2027 — Podaljšan rok za visoko tvegane sisteme UI, ki spadajo pod Prilogo III, točka 2 (sistemi UI v obstoječih izdelkih, ki so že predmet harmonizacijske zakonodaje Unije, navedene v Prilogi I), kar daje prizadetim sektorjem dodatni čas za uskladitev z zahtevami za oceno skladnosti in operativnimi zahtevami.
Organizacije, ki načrtujejo programe testiranja v resničnih razmerah, bi morale začeti načrtovati skladne okvire upravljanja testiranja in postopke obveščanja z ustreznim predhodnim opozorilom pred datumom 2. avgusta 2026, da se izognejo zamudi, ko postane obveznost izvršljiva.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Ponudniki in potencialni ponudniki visoko tveganih sistemov UI lahko izvajajo testiranje v resničnih razmerah zunaj peskovnikov, pod pogojem, da uradno obvestijo ustrezni nacionalni pristojni organ vsaj 30 dni pred začetkom testiranja in izpolnijo pogoje, določene v Členu 60, vključno s pridobivanjem informiranega soglasja udeležencev in vzpostavitvijo ustreznih ukrepov za zmanjšanje tveganja.
Ne. Člen 60 vzpostavlja ločeno pot za testiranje v resničnih razmerah, ki poteka zunaj formalnih regulativnih peskovnikov za UI, urejenih s Členi 57–59. Zagotavlja enostavnejši mehanizem, a kljub temu nalaga obvezne zaščitne ukrepe, zahteve glede obvestil in pogoje za zaščito udeležencev, ki so vključeni v testiranje.
Udeleženci, vključeni v testiranje v resničnih razmerah, morajo dati izrecno informirano soglasje, razen kadar veljavno sektorsko pravo določa drugače. Obvestiti jih je treba o pravici do umika brez škode, zaščititi pred kakršnimi koli neupravičenimi negativnimi posledicami, ponudnik pa mora zagotoviti, da se obravnava vsaka škoda, ki nastane pri testiranju. Posebna zaščita velja za ranljive skupine.
Člen 60 spada pod Naslov VI in se uporablja od 2. avgusta 2026, ki je splošni datum uporabe za večino določb Uredbe EU o UI. Visoko tvegani sistemi UI, navedeni v Prilogi III, se soočajo s stopnjevanimi obveznostmi, pri čemer nekatere kategorije spadajo pod podaljšani rok 2. avgusta 2027.
Ni nujno v fazi testiranja, toda testiranje mora potekati v razmerah, ki so skladne z zamišljeno uporabo in zahtevami upravljanja tveganj po Uredbi o UI. Ponudniki morajo načrtovano testiranje registrirati v zbirki podatkov EU in zagotoviti, da načrt testiranja, zaščitni ukrepi in nadzorni mehanizmi izpolnjujejo pogoje, navedene v Členu 60(4).
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.