Reglamento (ES) 2024/1689 14 straipsnis — Žmogaus priežiūra. Oficialus tekstas, praktinė interpretacija, pagrindinės prievolės ir atitikties pasekmės.
Oficialaus teksto santrauka
Reglamento (ES) 2024/1689 14 straipsnis nustato privalomus žmogaus priežiūros reikalavimus didelės rizikos DI sistemoms, sudarydamas pagrindinį III antraštinės dalies 2 skyriaus reguliavimo sistemos ramstį. Straipsnis reikalauja, kad didelės rizikos DI sistemos būtų projektuojamos ir kuriamos taip, kad fiziniai asmenys galėtų jas veiksmingai prižiūrėti naudojimo laikotarpiu.
Konkrečiai, 14 straipsnio 1 dalis įpareigoja teikėjus užtikrinti, kad, kur tai techniškai įmanoma, žmogaus priežiūros priemonės būtų integruotos į sistemą prieš pateikiant ją rinkai arba pradedant naudoti. Šios priemonės privalo suteikti priežiūrai paskirtiems asmenims galimybę suprasti sistemos galimybes ir apribojimus (14 straipsnio 4 dalies a punktas), stebėti veikimą anomalijos, gedimo ar netikėto veiksmingumo požymiais (14 straipsnio 4 dalies b punktas), išlikti budriems dėl automatizacijos šališkumo rizikos (14 straipsnio 4 dalies c punktas), teisingai interpretuoti rezultatus (14 straipsnio 4 dalies d punktas) ir nuspręsti nenaudoti sistemos arba nepaisyti, neatižvelgti į ją ar ją sustabdyti bet kokioje situacijoje (14 straipsnio 4 dalies e punktas).
14 straipsnio 3 dalis reikalauja, kad priežiūrai paskirti fiziniai asmenys turėtų reikiamą kompetenciją, įgaliojimus ir išteklius savo vaidmeniui vykdyti. Kai sistema skirta naudoti fiziniais asmenimis, priežiūros priemonės turi, kiek techniškai įmanoma, būti integruotos tiesiai į sistemos sąsają. 14 straipsnio 5 dalis nagrinėja sistemas, atliekančias saugos komponento funkciją, nustatant aukštesnius lūkesčius, kai DI rezultatai patenka į saugai svarbius sprendimus.
Ką tai reiškia praktiškai
14 straipsnis sukuria prievoles tiek teikėjams, tiek diegėjams, nors tų prievolių pobūdis skiriasi kiekviename DI sistemos gyvavimo ciklo etape.
Teikėjams prievolė pirmiausia yra projektavimo: žmogaus priežiūra neturi būti paskutinė mintis, pridedama po kūrimo, bet požymis, inžineriškai integruotas į sistemą nuo pat pradžių. Tai reiškia sąsajų, rodančių prasmingus pasitikėjimo rodiklius, kūrimą, mažo tikrumo rezultatų žymėjimą, pertraukimo ar nepritarimo be techninių kliūčių sudarymą ir dokumentacijos, leidžiančios diegėjams suprasti, kokia priežiūra realiai įmanoma, teikimą.
Diegėjams prievolė yra operatyvinė: jie privalo paskirti kvalifikuotus asmenis sistemai stebėti, užtikrinti, kad tie asmenys būtų apmokyti ir informuoti apie sistemos apribojimus, nustatyti eskalavimo ir įsikišimo procedūras ir tvarkyti priežiūros veiklos įrašus. Diegėjas, naudojantis DI įdarbinimo atrankos įrankį, pavyzdžiui, privalo užtikrinti, kad žmonės personalo vadybininkai peržiūrėtų pažymėtus kandidatus, suprastų modelio taikomus kriterijus ir išlaikytų įgaliojimus nepaisyti reitingų be baudos ar procedūrinių kliūčių.
Kritinė praktinė problema yra automatizacijos šališkumas — dokumentuota tendencija, kad žmonės prižiūrėtojai nekritiškai paklūsta DI rezultatams. 14 straipsnio 4 dalies c punktas tiesiogiai reikalauja, kad priežiūros asmenys žinotų apie šią riziką. Praktiškai tai reiškia, kad mokymo programose turi būti nagrinėjamas kognityvinis šališkumas, o darbo eiga turi būti struktūruota taip, kad reikalaujama tikro svarstymo, o ne mechaninio patvirtinimo.
Diegėjai reglamentuojamuose sektoriuose, kaip sveikatos priežiūra, teisėsauga ir kredito vertinimas, susiduria su aukštesniais lūkesčiais, atsižvelgiant į žalos rimtumą, galinčią kilti dėl nekontroliuojamų DI rekomendacijų tuose kontekstuose.
Pagrindinės prievolės
- Integravimas projektavimo etape: Teikėjai privalo integruoti žmogaus priežiūros galimybes į didelės rizikos DI sistemas prieš pateikiant jas rinkai, užtikrinant, kad jos būtų techniškai įgyvendinamos, o ne tik nominalios.
- Suprantamumas: Priežiūros priemonės turi suteikti paskirtiems asmenims galimybę suprasti sistemos galimybes, numatytą paskirtį ir apribojimus, įskaitant sąlygas, kuriomis veiksmingumas gali pablogėti.
- Anomalijų stebėjimas: Paskirti asmenys privalo gebėti aptikti gedimus, netikėtus rezultatus ir nukrypimus nuo tikėtino sistemos elgesio veikimo metu.
- Šališkumo suvokimas: Asmenys, atsakingi už priežiūrą, privalo būti informuoti apie automatizacijos šališkumo riziką ir tendenciją per daug pasikliauti DI sugeneruotais rezultatais be savarankiško patikrinimo.
- Nepritarimo įgaliojimai: Prižiūrėtojai privalo turėti tikrą, netrukdomą galimybę nepaisyti, nepritarti ar sustabdyti DI sistemą bet kuriuo naudojimo momentu, be techninių ar organizacinių kliūčių, trukdančių įsikišti.
- Kompetencijos ir išteklių reikalavimai: Diegėjai privalo užtikrinti, kad priežiūrai paskirti asmenys turėtų pakankamą kompetenciją, mokymą, įgaliojimus ir laiką prasmingai priežiūrai vykdyti — priežiūra negali būti deleguojama asmenims, neturintiems reikiamos kvalifikacijos ar pajėgumo.
Ryšys su kitais straipsniais
14 straipsnis neveikia atskirai. Jis presupponuoja atitiktį 9 straipsniui (rizikos valdymo sistema), nes veiksminga priežiūra priklauso nuo to, ar buvo nustatytos sistemos keliamos rizikos ir sąlygos, kuriomis priežiūra tampa kritinė. Jis glaudžiai susijęs su 13 straipsniu (skaidrumas ir informacijos teikimas diegėjams), kuris reikalauja, kad teikėjai teiktų informaciją, reikalingą diegėjams sistemai suprasti ir prižiūrėti — be tos informacijos 14 straipsnyje numatyta priežiūra negali funkcionuoti.
16 straipsnis ir 26 straipsnis nustato bendrąsias teikėjų ir diegėjų prievoles atitinkamai, į kurias yra įterptos 14 straipsnio prievolės. 17 straipsnis (kokybės valdymo sistema) reikalauja, kad žmogaus priežiūros procedūros būtų dokumentuotos kaip teikėjo kokybės sistemos dalis.
Sistemoms, atliekančioms saugos komponento vaidmenį, 14 straipsnio 5 dalis susikerta su I priede nurodytais produktų saugos teisės aktais ir sektoriniais reikalavimais, kurie gali nustatyti papildomas ar konkretesnes priežiūros prievoles. Galiausiai 72 straipsnis (stebėsena po pateikimo rinkai) pratęsia priežiūros logiką už diegimo ribų į nuolatinį operatyvinį sistemos gyvavimo ciklą.
Atitikties tvarkaraštis
Reglamentas (ES) 2024/1689 įsigaliojo 2024 m. rugpjūčio 1 d., dvidešimt dienų po paskelbimo Oficialiajame leidinyje. Jo nuostatos taikomos etapais:
- 2025 m. vasario 2 d.: Tapo taikomi draudimai dėl nepriimtinos rizikos DI praktikų (5 straipsnis).
- 2025 m. rugpjūčio 2 d.: Tapo taikomi bendrosios paskirties DI modelių taisyklių (VIII antraštinė dalis) ir valdymo prievolių (III antraštinės dalies 4 skyrius) reikalavimai.
- 2026 m. rugpjūčio 2 d.: Prievolės III priede išvardytoms didelės rizikos DI sistemoms — įskaitant 14 straipsnį — tampa visiškai taikomos daugumai kategorijų. Tai yra pagrindinis atitikties terminas didelės rizikos DI sistemų, kurioms taikomi žmogaus priežiūros reikalavimai, teikėjams ir diegėjams.
- 2027 m. rugpjūčio 2 d.: Pratęstas terminas tam tikroms didelės rizikos DI sistemoms, kurioms jau taikomi sektoriniai Sąjungos suderinimosi teisės aktai (I priedo sistemos), suteikiant toms tiekimo grandinėms papildomą laiką atitikties vertinimo procedūroms pritaikyti.
Didelės rizikos DI sistemų teikėjai ir diegėjai turėtų laikyti 2026 m. rugpjūčio 2 d. veiksmingu 14 straipsnio atitikties terminu, o parengiamasis projektavimas ir valdymo darbas turi prasidėti gerokai prieš tą datą, kad būtų galima atlikti atitikties vertinimą ir dokumentavimą.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Frequently Asked Questions
Didelės rizikos DI sistemų teikėjai prisiima pirminę atsakomybę už žmogaus priežiūros galimybių projektavimą ir integravimą į savo sistemas prieš pateikiant jas rinkai. Diegėjai tuomet atsako už šių priemonių praktinį įgyvendinimą, kvalifikuotų fizinių asmenų paskyrimą prižiūrėti sistemos veikimą ir užtikrinimą, kad tie asmenys turėtų reikalingus įgaliojimus ir kompetenciją imtis veiksmų.
Veiksminga priežiūra reiškia, kad fiziniai asmenys, paskirti stebėti didelės rizikos DI sistemą, privalo gebėti visiškai suprasti sistemos galimybes ir apribojimus, aptikti gedimus ar netikėtą elgesį ir juos šalinti, teisingai interpretuoti jos rezultatus bei pasirinkti nepaisyti, nepritarti ar sustabdyti sistemą, kai tai būtina. Neužtenka nominaliaiskai paskirti asmenį — tas asmuo privalo turėti realų pajėgumą ir įgaliojimus veikti.
Ne. 14 straipsnis neįpareigoja žmogaus patvirtinti kiekvieną atskirą rezultatą. Jis reikalauja, kad žmogaus priežiūra būtų integruota į sistemą ir jos diegimo kontekstą, kad atsakingas asmuo galėtų stebėti veikimą, nustatyti anomalijas ir įsikišti. Priežiūros intensyvumas turi būti proporcingas rizikai; kai kuriuose didelės rizikos kontekstuose gali reikėti glaudesnės ir dažnesnės žmogaus peržiūros nei kituose.
14 straipsnio 4 dalis pripažįsta, kad tam tikroms sistemoms, skirtoms naudoti fiziniams asmenims, žmogaus priežiūros priemonės turi būti integruotos į sistemą tiek, kiek tai techniškai įmanoma, atsižvelgiant į numatytą paskirtį. Kai visiška priežiūra negali būti integruota, teikėjai privalo dokumentuoti šį apribojimą, o diegėjai privalo jį kompensuoti organizacinėmis ir procedūrinėmis apsaugos priemonėmis.
Taip. 14 straipsnis taikomas visoms didelės rizikos DI sistemoms, kaip apibrėžta III priede ir 6 straipsnyje, neatsižvelgiant į tai, ar sistema priima visiškai autonominius sprendimus ar tik padeda žmonėms priimti sprendimus. Net pagalbinės sistemos gali daryti įtaką rezultatams tokiais būdais, kurie reikalauja struktūruotos priežiūros, ypač kai rezultatais gali būti remiamasi be kritinio vertinimo.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.
Take compliance further with the AI Act Academy
Templates, training modules, and live Q&A — everything needed to implement AI Act compliance.