Regulas (ES) 2024/1689 60. pants — Augsta riska MI sistēmu testēšana reālajā pasaulē ārpus MI regulatīvajām smilškastēm. Oficiālais teksts, praktiskā interpretācija, galvenās saistības un atbilstības sekas.
Oficiālā teksta kopsavilkums
Regulas (ES) 2024/1689 60. pants nosaka nosacījumus, saskaņā ar kuriem augsta riska MI sistēmu nodrošinātāji un potenciālie nodrošinātāji var veikt testēšanu reālajā pasaulē ārpus 57.–59. pantā izveidotā strukturētā MI regulatīvo smilškastu satvara. Šis noteikums atzīst, ka jēgpilna augsta riska MI sistēmu novērtēšana bieži prasa saskarsmi ar patiesām darbības vidēm, vienlaikus saglabājot iesaistītajiem riskiem atbilstošus aizsardzības pasākumus.
Pants nosaka, ka testēšana ārpus smilškastēm var notikt tikai tad, kad ir izpildīts visu kumulatīvo nosacījumu kopums. Nodrošinātājam vai potenciālajam nodrošinātājam vismaz 30 dienas pirms testēšanas sākuma jāiesniedz paziņojums kompetentajai valsts iestādei. Paziņojumā jāiekļauj testēšanas plāns, kurā aprakstīti apjoms, ilgums, ģeogrāfiskā zona, iesaistīto personu kategorijas un ieviestie riska mazināšanas pasākumi.
Subjektu informētā piekrišana ir centrālā prasība. Gadījumos, kad MI sistēma mijiedarbojas ar identificējamām fiziskām personām vai pieņem lēmumus, kas tās ietekmē, šīm personām jābūt informētām par savu dalību un tām skaidri jāpiekrīt, ja vien piemērojamais nozares tiesiskais regulējums nenosaka citādi. Testēšana nedrīkst pārsniegt to, kas ir stingri nepieciešams izvirzīto mērķu sasniegšanai, un nedrīkst pakļaut subjektus nepieļaujamam riskam vai kaitējumam.
Pants arī nosaka, ka testēšana jāveic nodrošinātāja uzraudzībā, rezultāti jādokumentē un kompetentajai iestādei jāziņo par testēšanas laikā radušajiem nopietnajiem incidentiem. Dalībvalstis saglabā tiesības atļaut vai aizliegt testēšanas darbības savā teritorijā un var noteikt papildu nosacījumus.
Ko tas nozīmē praksē
- pants galvenokārt attiecas uz organizācijām, kas izstrādā vai izmanto augsta riska MI sistēmas — kā definēts Regulas 6. pantā un III pielikumā —, kurām jāapstiprina sistēmas darbība vai drošības īpašības patiesās darbības vidēs pirms formālā atbilstības novērtējuma vai vienlaikus ar to. Tas ietver, piemēram, slimnīcu, kas testē MI palīgdiagnostikas rīku dzīvā klīniskajā vidē, vai finanšu iestādi, kas testē kredītvērtīguma modeli ar reāliem pretendentiem ārpus kontrolētas smilškastu.
Praksē atbilstība nozīmē iekšēja procesa izveidi reālās pasaules testu pārvaldībai, kas atspoguļo panta saistības. Pirms jebkura testa sākuma organizācijai jāsagatavo strukturēts testēšanas plāns, jāpārbauda, vai visi piekrišanas mehānismi ir ieviesti, un vismaz 30 dienas iepriekš jāiesniedz nepieciešamais paziņojums kompetentajai iestādei — atstājot pietiekami daudz laika iestādei izteikt iebildumus vai noteikt nosacījumus.
Testa laikā organizācijai jāuztur aktīva cilvēka uzraudzība, jādokumentē visi būtiskie incidenti un jābūt gatavai nekavējoties apturēt testēšanu, ja riski pārsniedz paredzamos līmeņus. Testēšanas laikā savāktie dati joprojām ir pakļauti piemērojamajām VDAR saistībām, un īpašu kategoriju datu apstrādei nepieciešams specifisks juridiskais pamats.
Organizācijām arī jānodrošina, ka to līgumi ar izvietotājiem vai trešo pušu testa operatoriem skaidri sadala atbildību par atbilstību 60. panta nosacījumiem, jo pienākums galvenokārt gulstas uz nodrošinātāju vai potenciālo nodrošinātāju neatkarīgi no tā, kurš fiziski veic testu. Ļoti ieteicami ir iekšēji pārvaldības satvari — tostarp norīkota atbildīgā persona un dokumentēts riska reģistrs testam.
Galvenās saistības
- Iepriekšējs paziņojums: Iesniegt testēšanas plānu attiecīgajai valsts kompetentajai iestādei vismaz 30 dienas pirms testēšanas reālajā pasaulē sākšanas, aptverot apjomu, ilgumu, atrašanās vietu, subjektu kategorijas un riska mazināšanas pasākumus.
- Informētā piekrišana: Iegūt skaidru informētu piekrišanu no visām testēšanā iesaistītajām vai ietekmētajām fiziskajām personām un informēt tās par beznosacījumu tiesībām jebkurā laikā izstāties bez kaitējuma.
- Riska samērīgums: Nodrošināt, ka testēšanas darbības nepārsniedz to, kas stingri nepieciešams izvirzītajam mērķim, un nepakļauj subjektus vai trešās puses riskiem, kas pārsniedz gaidāmos ieguvumus.
- Uzraudzība un dokumentācija: Uzturēt aktīvu testēšanas uzraudzību, saglabāt testēšanas plāna, rezultātu un jebkuru atkāpju vai incidentu uzskaiti visā testēšanas periodā.
- Incidentu ziņošana: Bez nepamatotas kavēšanās ziņot kompetentajai iestādei par jebkuru nopietnu incidentu, kas notiek testēšanas reālajā pasaulē laikā, un nekavējoties veikt korektīvus pasākumus, lai mazinātu kaitējumu.
- ES datubāzes reģistrācija: Reģistrēt testēšanas darbību reālajā pasaulē ES datubāzē augsta riska MI sistēmām, kas izveidota saskaņā ar Article 71, pirms testēšanas sākšanas.
Saistība ar citiem pantiem
-
pants ietilpst VI sadaļā (Inovācijas atbalsta pasākumi) un jālasa kopā ar 57.–59. pantu, kas veido primāro MI regulatīvo smilškastu satvaru. 60. pants darbojas kā papildinošs testēšanas ceļš, kas nenotiek formālā smilškastē, taču tas neatceļ un nesamazina būtiskās drošības un pārredzamības saistības, kas attiecas uz augsta riska MI sistēmām saskaņā ar III sadaļu (īpaši 8.–15. pants par nodrošinātāju saistībām, riska pārvaldību un tehnisko dokumentāciju).
-
panta piekrišanas un datu aizsardzības prasības tieši krustojas ar Regulu (ES) 2016/679 (VDAR), īpaši 6., 9. un 22. pantu par likumīgu apstrādi un automatizētu lēmumu pieņemšanu. 60. pants arī savienojas ar Article 71 par ES datubāzi, kas regulē reģistrācijas saistības, un ar Article 73 par tirgus uzraudzību, jo kompetentās iestādes var pārbaudīt testus reālajā pasaulē. Nodrošinātājiem arī jāapsver Article 26 par izvietotāju saistībām, jo testēšana reālajā pasaulē bieži ietver izvietotāja infrastruktūru un datus.
Atbilstības laika skala
ES MI akts stājās spēkā 2024. gada 1. augustā, divdesmit dienas pēc tā publicēšanas Eiropas Savienības Oficiālajā Vēstnesī. Tā noteikumi tiek piemēroti pakāpeniski:
- 2025. gada 2. februāris — Aizliegumi attiecībā uz nepieļaujama riska MI praksi (Article 5) kļuva piemērojami.
- 2025. gada 2. augusts — Kļuva piemērojami noteikumi par vispārīga lietojuma MI modeļiem (III sadaļa, 3. nodaļa, 51.–56. pants) un pārvaldības saistībām (daļa no VI un VIII sadaļas). Regulatīvā smilškastu satvars saskaņā ar 57.–59. pantu kļuva piemērojams arī no šī datuma.
- 2026. gada 2. augusts — Vispārējais piemērošanas datums lielākajai daļai atlikušo noteikumu, tostarp 60. pantam. No šī datuma nodrošinātājiem un potenciālajiem nodrošinātājiem augsta riska MI sistēmām, kas vēlas veikt testēšanu reālajā pasaulē ārpus smilškastēm, pilnībā jāatbilst šajā pantā noteiktajām paziņošanas, piekrišanas, dokumentācijas un incidentu ziņošanas saistībām.
- 2027. gada 2. augusts — Pagarināts termiņš augsta riska MI sistēmām, kas ietilpst III pielikuma 2. punktā (MI sistēmas esošajos produktos, uz kuriem jau attiecas I pielikumā uzskaitītie Savienības harmonizācijas tiesību akti), piešķirot skartajiem sektoriem papildu laiku, lai saskaņotos ar atbilstības novērtēšanas un darbības prasībām.
Organizācijām, kas plāno testēšanas programmas reālajā pasaulē, vajadzētu sākt izstrādāt atbilstošus testēšanas pārvaldības satvarus un paziņošanas procedūras labu laiku pirms 2026. gada 2. augusta datuma, lai novērstu kavēšanos, kad saistības kļūst izpildāmas.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Augsta riska MI sistēmu nodrošinātāji un potenciālie nodrošinātāji var veikt testēšanu reālajā pasaulē ārpus smilškastēm, ar nosacījumu, ka tie vismaz 30 dienas pirms testēšanas sākuma paziņo attiecīgajai valsts kompetentajai iestādei un izpilda 60. pantā noteiktos nosacījumus, tostarp iegūst pārbaudāmo personu informētu piekrišanu un ievieš atbilstošus riska mazināšanas pasākumus.
Nē. 60. pants izveido atsevišķu ceļu testēšanai reālajā pasaulē, kas notiek ārpus formālajām MI regulatīvajām smilškastēm, ko regulē 57.–59. pants. Tas paredz mazāk apgrūtinošu mehānismu, taču joprojām uzliek obligātus aizsardzības pasākumus, paziņošanas prasības un nosacījumus testēšanā iesaistīto subjektu aizsardzībai.
Testēšanā iesaistītajiem subjektiem jāsniedz skaidra informēta piekrišana, izņemot gadījumus, kad piemērojamais nozares tiesiskais regulējums ļauj rīkoties citādi. Viņiem jābūt informētiem par tiesībām izstāties bez kaitējuma, jābūt pasargātiem no jebkādas nevēlamas negatīvas ietekmes, un nodrošinātājam jānodrošina, ka jebkāds testēšanas laikā radies kaitējums tiek novērsts. Neaizsargātām grupām tiek piemērota īpaša aizsardzība.
60. pants ietilpst VI sadaļā un tiek piemērots no 2026. gada 2. augusta, kas ir vispārējais piemērošanas datums lielākajai daļai ES MI akta noteikumu. Augsta riska MI sistēmām, kas uzskaitītas III pielikumā, ir pakāpeniskas saistības, un dažas kategorijas ietilpst pagarinātajā 2027. gada 2. augusta termiņā.
Ne obligāti testēšanas posmā, taču testēšana jāveic apstākļos, kas atbilst MI akta paredzētā lietošanas veida un riska pārvaldības prasībām. Nodrošinātājiem jāreģistrē plānotā testēšana ES datubāzē un jānodrošina, ka testēšanas plāns, aizsardzības pasākumi un uzraudzības mehānismi atbilst 60. panta 4. punktā uzskaitītajiem nosacījumiem.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.