Regulas (ES) 2024/1689 14. pants — Cilvēka uzraudzība. Oficiālais teksts, praktiskā interpretācija, galvenās saistības un atbilstības sekas.
Oficiālā teksta kopsavilkums
Regulas (ES) 2024/1689 14. pants nosaka obligātās cilvēka uzraudzības prasības augsta riska MI sistēmām, veidojot regulatīvā ietvara pamatstūri saskaņā ar III sadaļas 2. nodaļu. Pants paredz, ka augsta riska MI sistēmām jābūt projektētām un izstrādātām tādā veidā, lai tās varētu efektīvi uzraudzīt fiziskas personas lietošanas periodā.
Konkrēti, 14. panta 1. punkts nosaka, ka nodrošinātājiem jānodrošina — ciktāl tas ir tehniski iespējams — cilvēka uzraudzības pasākumu iebūvēšana sistēmā pirms laišanas tirgū vai nodošanas ekspluatācijā. Šiem pasākumiem jādod iespēja uzraudzībai nozīmētajām personām saprast sistēmas iespējas un ierobežojumus (14. panta 4. punkta a) apakšpunkts), uzraudzīt darbību, lai atklātu anomālijas, darbības traucējumus vai neparedzētu veiktspēju (14. panta 4. punkta b) apakšpunkts), apzināties automatizācijas novirzes risku (14. panta 4. punkta c) apakšpunkts), pareizi interpretēt iznākumus (14. panta 4. punkta d) apakšpunkts) un jebkurā lietošanas brīdī izlemt sistēmu neizmantot vai to ignorēt, neņemt vērā vai apturēt (14. panta 4. punkta e) apakšpunkts).
- panta 3. punkts paredz, ka uzraudzībai nozīmētajām fiziskajām personām jābūt nepieciešamajai kompetencei, pilnvarojumam un resursiem savas lomas veikšanai. Ja sistēma paredzēta izmantošanai fiziskām personām, uzraudzības pasākumiem — ciktāl tas ir tehniski iespējams — jābūt tieši iebūvētiem sistēmas saskarnē. 14. panta 5. punkts risina sistēmas drošības komponenta funkcijas gadījumus, uzliekot paaugstinātas prasības, ja MI iznākums iegulst drošībai kritiskos lēmumos.
Ko tas nozīmē praksē
- pants rada pienākumus gan nodrošinātājiem, gan izvietotājiem, lai gan šo pienākumu raksturs atšķiras katrā MI sistēmas dzīves cikla posmā.
Nodrošinātājiem pienākums galvenokārt ir projektēšanas jomā: cilvēka uzraudzībai nedrīkst būt pēcpārdoma, kas pievienota pēc izstrādes, bet gan iezīme, kas inženieriski iekļauta sistēmā no paša sākuma. Tas nozīmē saskarnēs, kas parāda jēgpilnus ticamības rādītājus, zemas noteiktības iznākumu atzīmēšanu, pārtraukšanas vai ignorēšanas nodrošināšanu bez tehniskiem šķēršļiem, un dokumentācijas nodrošināšanu, kas ļauj izvietotājiem saprast, kāda uzraudzība ir reāli sasniedzama.
Izvietotājiem pienākums ir operacionāls: tiem jāieceļ kvalificētas personas sistēmas uzraudzībai, jānodrošina, ka šīs personas ir apmācītas un informētas par sistēmas ierobežojumiem, jāizveido procedūras eskalācijai un iejaukšanai, un jāuztur uzraudzības darbības ieraksti. Izvietotājam, kas izmanto MI palīdzētu CV atlases rīku, piemēram, jānodrošina, ka cilvēki-personāla atlases speciālisti pārskata atzīmētos kandidātus, saprot kritērijus, ko piemēro modelis, un saglabā pilnvarojumu ignorēt sarindojumus bez soda vai procesuāliem šķēršļiem.
Kritiska praktiska bažas ir automatizācijas novirze — dokumentēta cilvēka uzraugu tendence nekritizējoši sekot MI iznākumiem. 14. panta 4. punkta c) apakšpunkts tieši paredz, ka uzraudzības personām jāapzinās šis risks. Praksē tas nozīmē, ka apmācību programmās jārisina kognitīvā novirze un darba plūsmām jābūt strukturētām tā, lai prasītu patiesi apsvērumus, nevis formalitāti.
Izvietotājiem regulētās nozarēs, piemēram, veselības aprūpē, tiesībaizsardzībā un kredītu novērtēšanā, ir paaugstinātas prasības, ņemot vērā kaitējuma smagumu, kas var rasties no nekontrolētiem MI ieteikumiem šajos kontekstos.
Galvenās saistības
- Projektēšanas posma integrācija: Nodrošinātājiem jāiegulst cilvēka uzraudzības iespējas augsta riska MI sistēmās pirms laišanas tirgū, nodrošinot, ka tās ir tehniski realizējamas un ne tikai formālas.
- Saprotamība: Uzraudzības pasākumiem jādod iespēja nozīmētajām personām saprast sistēmas iespējas, paredzēto mērķi un ierobežojumus, tostarp apstākļus, kuros veiktspēja var pasliktināties.
- Anomāliju uzraudzība: Nozīmētajām personām jāspēj atklāt darbības traucējumus, neparedzētus iznākumus un novirzes no paredzētās sistēmas uzvedības darbības laikā.
- Novirzes apzināšanās: Personām, kas atbildīgas par uzraudzību, jābūt informētām par automatizācijas novirzes risku un tendenci pārmērīgi paļauties uz MI ģenerētiem iznākumiem bez neatkarīgas verifikācijas.
- Ignorēšanas pilnvarojums: Uzraugiem jābūt patiesai, netraucētai spējai neņemt vērā, ignorēt vai apturēt MI sistēmu jebkurā lietošanas brīdī, bez tehniskiem vai organizatoriskiem šķēršļiem, kas novērstu iejaukšanos.
- Kompetences un resursu prasības: Izvietotājiem jānodrošina, ka uzraudzībai nozīmētajām personām ir pietiekama kompetence, apmācība, pilnvarojums un laiks jēgpilnas uzraudzības veikšanai — uzraudzību nedrīkst deleģēt personām, kurām trūkst nepieciešamās kvalifikācijas vai spējas.
Saistība ar citiem pantiem
- pants nedarbojas izolēti. Tas paredz atbilstību 9. pantam (riska pārvaldības sistēma), jo efektīva uzraudzība ir atkarīga no tā, vai ir identificēti riski, ko sistēma rada, un nosacījumi, kuros uzraudzība kļūst kritiska. Tas cieši saistās ar 13. pantu (pārredzamība un informācijas sniegšana izvietotājiem), kas pieprasa nodrošinātājiem sniegt informāciju, kas nepieciešama, lai izvietotāji saprastu un uzraudzītu sistēmu — bez šīs informācijas uzraudzība, kā to paredz 14. pants, nevar darboties.
16. pants un 26. pants nosaka nodrošinātāju un izvietotāju vispārējos pienākumus, kuros ir iekļauti 14. panta pienākumi. 17. pants (kvalitātes pārvaldības sistēma) pieprasa, lai cilvēka uzraudzības procedūras tiktu dokumentētas kā daļa no nodrošinātāja kvalitātes ietvara.
Sistēmām ar drošības komponenta funkciju 14. panta 5. punkts krustojas ar I pielikumā minētajiem produktu drošības tiesību aktiem un ar nozaru specifiskajām prasībām, kas var noteikt papildu vai precīzākus uzraudzības pienākumus. Visbeidzot, 72. pants (pēctirgus uzraudzība) paplašina uzraudzības loģiku ārpus izvietošanas uz sistēmas pastāvīgo operacionālo dzīves ciklu.
Atbilstības grafiks
Regula (ES) 2024/1689 stājās spēkā 2024. gada 1. augustā, divdesmit dienas pēc publicēšanas Oficiālajā Vēstnesī. Tās noteikumi tiek piemēroti pakāpeniski:
- 2025. gada 2. februāris: Stājās spēkā aizliegumi attiecībā uz nepieņemama riska MI praksēm (5. pants).
- 2025. gada 2. augusts: Kļuva piemērojami noteikumi par vispārējas nozīmes MI modeļiem (VIII sadaļa) un pārvaldības pienākumi (III sadaļas 4. nodaļa).
- 2026. gada 2. augusts: Lielākajai daļai kategoriju kļūst pilnībā piemērojami pienākumi attiecībā uz augsta riska MI sistēmām, kas uzskaitītas III pielikumā — tostarp 14. pants. Tas ir galvenais atbilstības termiņš augsta riska MI sistēmu nodrošinātājiem un izvietotājiem, uz kuriem attiecas cilvēka uzraudzības prasības.
- 2027. gada 2. augusts: Pagarināts termiņš noteiktām augsta riska MI sistēmām, uz kurām jau attiecas nozares specifiskā Savienības saskaņošanas tiesību aktu (I pielikuma sistēmas) regulēšana, dodot šīm piegādes ķēdēm papildu laiku, lai pielāgotu atbilstības novērtēšanas procedūras.
Augsta riska MI sistēmu nodrošinātājiem un izvietotājiem jāuzskata 2026. gada 2. augusts kā operatīvais termiņš 14. panta atbilstībai, ar sagatavošanas projektēšanu un pārvaldības darbu, kura uzsākšana krietni pirms šī datuma ir nepieciešama, lai atļautu atbilstības novērtēšanu un dokumentāciju.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Augsta riska MI sistēmu nodrošinātāji uzņemas galveno atbildību par cilvēka uzraudzības iespēju projektēšanu un iebūvēšanu savās sistēmās pirms to laišanas tirgū. Pēc tam izvietotāji ir atbildīgi par šo pasākumu īstenošanu praksē, kompetentu fizisko personu iecelšanu sistēmas darbības uzraudzībai un nodrošināšanu, ka šīm personām ir nepieciešamā pilnvarošana un kompetence iejaukties.
Efektīva uzraudzība nozīmē, ka fiziskajām personām, kas ieceltas augsta riska MI sistēmas uzraudzībai, jāspēj pilnībā saprast sistēmas iespējas un ierobežojumus, atklāt un novērst darbības traucējumus vai neparedzētu uzvedību, pareizi interpretēt tās iznākumus un izvēlēties neņemt vērā, ignorēt vai apturēt sistēmu, kad nepieciešams. Nav pietiekami tikai formāli iecelt personu — tai jābūt reālai spējai un pilnvarojumam rīkoties.
Nē. 14. pants nenorāda uz cilvēka apstiprinājumu katram atsevišķam iznākumam. Tas prasa, lai cilvēka uzraudzība būtu iebūvēta sistēmā un tās izvietošanas kontekstā tā, lai atbildīga persona varētu uzraudzīt darbību, identificēt anomālijas un iejaukties. Uzraudzības intensitātei jābūt proporcionālai riskam; daži augsta riska konteksti var prasīt ciešāku, biežāku cilvēka pārskatīšanu nekā citi.
14. panta 4. punkts atzīst, ka attiecībā uz noteiktām sistēmām, kas paredzētas izmantošanai fiziskām personām, cilvēka uzraudzības pasākumi jāiebūvē sistēmā tiktāl, ciktāl tas ir tehniski iespējams, ņemot vērā paredzēto mērķi. Ja pilnīga uzraudzība nevar tikt iegulta, nodrošinātājiem jādokumentē šis ierobežojums un izvietotājiem jākompensē ar organizatoriskiem un procesuāliem aizsardzības pasākumiem.
Jā. 14. pants attiecas uz visām augsta riska MI sistēmām, kā definēts III pielikumā un 6. pantā, neatkarīgi no tā, vai sistēma pieņem pilnīgi autonomus lēmumus vai tikai palīdz cilvēkiem-lēmumu pieņēmējiem. Pat palīgsistēmas var ietekmēt iznākumus tādos veidos, kas prasa strukturētu uzraudzību, jo īpaši ja uz iznākumiem var paļauties nekritizējoši.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.